Étiquette : moderation (Page 1 of 8)

Here’s How Violent Extremists Are Exploiting Generative AI Tools

12 novembre 2023 /

https://i0.wp.com/www.beaude.net/no-flux/wp-content/uploads/2023/11/security_extremists_ai.jpg?resize=676%2C380&ssl=1

“Beyond detailing the threat posed by generative AI tools that can tweak images, Tech Against Terrorism has published a new report citing other ways in which gen AI tools can be used to help extremist groups. These include the use of autotranslation tools that can quickly and easily convert propaganda into multiple languages, or the ability to create personalized messages at scale to facilitate recruitment efforts online. But Hadley believes that AI also provides an opportunity to get ahead of extremist groups and use the technology to preempt what they will use it for.
 »We’re going to partner with Microsoft to figure out if there are ways using our archive of material to create a sort of gen AI detection system in order to counter the emerging threat that gen AI will be used for terrorist content at scale,” Hadley says. “We’re confident that gen AI can be used to defend against hostile uses of gen AI. »”

Source : Here’s How Violent Extremists Are Exploiting Generative AI Tools | WIRED

La proposition française de bloquer les sites web via le navigateur nuira gravement à l’internet ouvert mondial

23 août 2023 /

“Dans une tentative louable, mais périlleuse de lutter contre la fraude en ligne, la France s’apprête à obliger les créateurs de navigateurs à mettre en œuvre une fonctionnalité technique relevant de la dystopie. L’article 6 du projet de loi SREN obligerait les développeurs de navigateur à créer les moyens de bloquer obligatoirement les sites web figurant sur une liste fournie par le gouvernement et intégrée directement dans le navigateur. Une telle mesure renverserait des décennies de normes établies en matière de modération des contenus. Celle-ci fournira également aux gouvernements autoritaires un moyen de minimiser l’efficacité des outils qui peuvent être utilisés pour contourner la censure.”

Source : La proposition française de bloquer les sites web via le navigateur nuira gravement à l’internet ouvert mondial – Open Policy & Advocacy

CAPTCHA : les machines « prouvent » plus rapidement qu’elles sont des humains

22 août 2023 /

CAPTCHA : les machines « prouvent » plus rapidement qu'elles sont des humains

“Les tâches de reconnaissance d’images réputées inaccessibles pour les machines deviennent maintenant plus simples pour elles que pour les humains. Des chercheurs de l’Université de Californie à Irvine (UC Irvine) ont en effet comparé les performances des humains avec celles des algorithmes de résolution de CAPTCHA et ont montré que la machine était, la plupart du temps, meilleure et plus rapide. Ils ont présenté leurs résultats à la conférence USENIX Security en ce mois d’août (PDF).”

Source : CAPTCHA : les machines « prouvent » plus rapidement qu’elles sont des humains

New AI classifier for indicating AI-written text is no longer available due to its low rate of accuracy

8 août 2023 /

“As of July 20, 2023, the AI classifier is no longer available due to its low rate of accuracy. We are working to incorporate feedback and are currently researching more effective provenance techniques for text, and have made a commitment to develop and deploy mechanisms that enable users to understand if audio or visual content is AI-generated.”

Source : New AI classifier for indicating AI-written text

China Proposes ‘Minor Mode’ to Limit Kids’ Smartphone Use

8 août 2023 /

https://i0.wp.com/www.beaude.net/no-flux/wp-content/uploads/2023/08/04china-phone-ban-kmwb-superJumbo.jpg?resize=676%2C451&ssl=1

“The proposal says the minor mode feature would try to prevent “internet addiction” by limiting children younger than 8 to 40 minutes of smartphone time a day. The time limit would increase with age, reaching two hours daily for those ages 16 to 18.Apps would also have to tailor their content for different age groups. Children younger than 3, for example, should be shown nursery rhymes and programs that can be watched with parents, according to documents from the Cyberspace Administration of China. Those between 8 and 12 could be offered videos about life skills, general knowledge, age-appropriate news and “entertainment content for positive guidance.””

Source : China Proposes ‘Minor Mode’ to Limit Kids’ Smartphone Use – The New York Times

TikTok Feeds Teens a Diet of Darkness

14 mai 2023 /

https://images.wsj.net/im-780503/?width=1278&size=1

“After a few hours, I had to stop. If the rapid string of sad videos made me feel bad, how would a 14-year-old feel after watching this kind of content day after day? One account is dedicated to “sad and lonely” music. Another features a teenage girl crying in every video, with statements about suicide. One is full of videos filmed in a hospital room. Each of the hospital videos contains text expressing suicidal thoughts, including, “For my final trick I shall turn into a disappointment.”
Users have developed creative ways to skirt TikTok’s content filters. For instance, since TikTok won’t allow content referencing suicide, people use a sound-alike such as “sewerslide,” or just write “attempt” and leave the rest to the viewer’s imagination. Creators of videos about disordered eating have also evaded TikTok’s filters.
Policing all the content on a service used by more than one billion monthly users is no easy task. Yet there is a difference between stamping out harmful content and promoting it. “If tech companies can’t eliminate this from their platforms, don’t create algorithms that will point kids to that information,” said Arthur C. Evans Jr., chief executive of the American Psychological Association.”

Source : TikTok Feeds Teens a Diet of Darkness – WSJ

12 avril 2023 /

“La publication du code source de Twitter est-elle dangereuse ? Elle va en tout cas permettre à des utilisateurs d’optimiser leur TweepCred pour améliorer leurs chances de passer devant les autres devant l’algorithme. Cependant, plusieurs éléments importants restent cachés, comme le fait que l’on ne sache pas comme l’onglet « Pour Vous » classe les tweets. Être vu par l’algorithme est important, mais apparaître à la 54ème place n’a aucun intérêt… On note aussi l’existence de paramètres amusants, comme celui qui détermine pour chaque tweet si l’auteur est Elon Musk, mais seulement dans un but statistique. Dans le futur, Twitter compte faire évoluer son algorithme, ce qui rendra cette publication obsolète. En attendant, Elon Musk a tenu sa promesse. ”

Source : Les secrets de l’algorithme de Twitter rendus publics : voici ce qu’on apprend – Numerama

China’s chatbots, like Baidu’s Ernie, grapple with tech and censorship

5 mars 2023 /

“But an AI bot cannot always distinguish between helpful and hateful content. According to George Washington University’s Ding, after ChatGPT was trained by digesting the 175 billion parameters that inform it, parent company OpenAI still needed to employ several dozen human contractors to teach it not to regurgitate racist and misogynist speech or to give instructions on how to do things like build a bomb. This human-trained version, called InstructGPT, is the framework behind the chat bot. No similar effort has been announced for Baidu’s Ernie Bot or any of the other Chinese projects in the works, Ding said. Even with a robust content management team in place at Baidu, it may not be enough. Zhao, the former Baidu employee, said the company originally dedicated just a handful of engineers to the development of its AI framework. “Baidu’s AI research was slowed by a lack of commitment in a risk-ridden field that promised little return in the short term,” she said.”

Source : China’s chatbots, like Baidu’s Ernie, grapple with tech and censorship – The Washington Post

Comment Meta est devenu le symbole de la censure du corps féminin en ligne

5 mars 2023 /

https://i0.wp.com/www.beaude.net/no-flux/wp-content/uploads/2023/03/8336f6a_1677166169420-meta-scaled.jpg?resize=676%2C338&ssl=1

“… la solution n’est pas de laisser ces entreprises privées trancher seules des questions de société complexes, mais « de laisser les gens choisir ce qu’ils veulent voir ou non ». « Les endroits où l’on peut parler de sexualité ou se montrer nu en ligne se réduisent petit à petit, et cela a un impact sur tout le monde. Aux yeux de certains, une travailleuse du sexe et une éducatrice en santé sexuelle, c’est la même chose, et il faudrait les censurer toutes les deux. Pour moi, ce n’est pas seulement un sujet de liberté d’expression. C’est un enjeu de droits humains. »”

Source : Comment Meta est devenu le symbole de la censure du corps féminin en ligne

« Older posts

Archives

Catégories

© 2024 no-Flux

Theme by Anders Noren — Up ↑