Étiquette : artificial intelligence (page 1 of 14)

Project Nightingale

“Neither patients nor doctors have been notified. At least 150 Google employees already have access to much of the data on tens of millions of patients, according to a person familiar with the matter and the documents. In a news release issued after The Wall Street Journal reported on Project Nightingale on Monday, the companies said the initiative is compliant with federal health law and includes robust protections for patient data. Some Ascension employees have raised questions about the way the data is being collected and shared, both from a technological and ethical perspective, according to the people familiar with the project. But privacy experts said it appeared to be permissible under federal law. That law, the Health Insurance Portability and Accountability Act of 1996, generally allows hospitals to share data with business partners without telling patients, as long as the information is used “only to help the covered entity carry out its health care functions.””

Source : Google’s ‘Project Nightingale’ Gathers Personal Health Data on Millions of Americans – WSJ

0602095339508_web_tete.jpg

“Pour moi, il ne fait aucun doute que les machines arriveront tôt ou tard à des niveaux d’intelligence aussi performante et générale que les humains et, probablement, nous dépasseront assez vite. […]
Facebook est une entreprise qui n’est pas agressive au niveau commercial ou concurrentiel. C’est une entreprise qui donne l’impression de travailler comme pour une grande famille, les gens qui sont à la direction sont à la fois intelligents et sympathiques. Ils essaient de faire les choses correctement, mais il y a des erreurs dues au fait qu’aucun service de ce type n’existait auparavant, et aussi au fait que des individus, des partenaires ou des gouvernements ont pu abuser de notre confiance.”

Source : Yann Le Cun : « Les machines vont arriver à une intelligence de niveau humain » | Les Echos

“On a tous les deux grandi en lisant beaucoup de science-fiction, donc l’idée que la technologie est là pour nous aider plutôt que pour nous faire du mal fait partie de nos histoires à chacun. Mais on admettait que si les gens qui designent ces applis entendent faire de leur mieux, par contre, ils ne connaissent pas grand chose du comportement humain. Ce qui n’est de la faute de personne : si vous voulez apprendre à faire des logiciels, vous devenez ingénieur, si vous voulez apprendre sur le comportement humain, vous faites des sciences comportementales. On s’est donc demandé ce qu’on pouvait faire pour que ces applis soient plus persuasives, et pour y injecter nos connaissances. Que se passe-t-il dans nos têtes ? Pourquoi certaines addictions se forment et d’autres non ? On voyait que les gens voulaient utiliser ces applis, grandir, changer, être une meilleure version d’eux-mêmes, on voulait permettre ce succès, et notre petite contribution était de rendre ces applis plus puissantes.”

Source : « Le recours aux techonologies de la persuasion ne va faire qu’augmenter »

“AI Now co-founders Kate Crawford and Meredith Whittaker opened the Symposium with a short talk summarizing some key moments of opposition over the year, focusing on five themes: (1) facial and affect recognition; (2) the movement from “AI bias” to justice; (3) cities, surveillance, borders; (4) labor, worker organizing, and AI, and; (5) AI’s climate impact. Below is an excerpt from their talk.”

Source : AI in 2019: A Year in Review – AI Now Institute – Medium

 

« En élargissant les jeux de données, nous risquons surtout de rendre les populations les plus fragiles plus faciles à contrôler et à surveiller ! « Une surveillance égalitaire n’est pas l’égalité ! » Au contraire ! Le risque est de développer des atteintes encore plus disproportionnées qu’elles ne sont aux groupes les plus minoritaires et les plus fragiles ! Ces systèmes sont « dangereux quand ils échouent, nocifs quand ils fonctionnent ». « Améliorer un système injuste ne peut que créer un plus grand préjudice » ».

Source : Kate Crawford : « l’IA est une nouvelle ingénierie du pouvoir » | InternetActu.net

TELEMMGLPICT000211074639.jpeg

“80 to 90 per cent of the predictive assessment was based on the algorithms’ analysis of candidates’ use of language and verbal skills. “There are 350-ish features that we look at in language: do you use passive or active words? Do you talk about ‘I’ or ‘We.’ What is the word choice or sentence length? In doctors, you might expect a good one to use more technical language,” he said. “Then we look at the tone of voice. If someone speaks really slowly, you are probably not going to stay on the phone to buy something from them. If someone speaks at 400 words a minute, people are not going to understand them. Empathy is a piece of that.” The company says the tecnology is different to facial recognition and instead analyses expressions. Facial expressions assessed by the algorithms include brow furrowing, brow raising, eye widening or closing, lip tightening, chin raising and smiling, which are important in sales or other public-facing jobs.”

Source : AI used for first time in job interviews in UK to find best applicants

Hospital viruses: Fake cancerous nodes in CT scans, created by malware, trick radiologists

“Yisroel Mirsky, Yuval Elovici and two others at the Ben-Gurion University Cyber Security Research Center in Israel who created the malware say that attackers could target a presidential candidate or other politicians to trick them into believing they have a serious illness and cause them to withdraw from a race to seek treatment. The research isn’t theoretical. In a blind study the researchers conducted involving real CT lung scans, 70 of which were altered by their malware, they were able to trick three skilled radiologists into misdiagnosing conditions nearly every time. In the case of scans with fabricated cancerous nodules, the radiologists diagnosed cancer 99 percent of the time. In cases where the malware removed real cancerous nodules from scans, the radiologists said those patients were healthy 94 percent of the time.”

Source : Hospital viruses: Fake cancerous nodes in CT scans, created by malware, trick radiologists – The Washington Post

Une IA digne de confiance devrait respecter toutes les législations et réglementations applicables ainsi qu’une série d’exigences; des listes d’évaluation spécifiques visent à faciliter la vérification du respect de chacune de ces exigences:

  • Facteur humain et contrôle humain: les systèmes d’IA devraient être les vecteurs de sociétés équitables en se mettant au service de l’humain et des droits fondamentaux, sans restreindre ou dévoyer l’autonomie humaine.
  • Robustesse et sécurité: une IA digne de confiance nécessite des algorithmes suffisamment sûrs, fiables et robustes pour gérer les erreurs ou les incohérences dans toutes les phases du cycle de vie des systèmes d’IA.
  • Respect de la vie privée et gouvernance des données: il faut que les citoyens aient la maîtrise totale de leurs données personnelles et que les données les concernant ne soient pas utilisées contre eux à des fins préjudiciables ou discriminatoires.
  • Transparence: la traçabilité des systèmes d’IA doit être assurée.
  • Diversité, non-discrimination et équité: les systèmes d’IA devraient prendre en compte tout l’éventail des capacités, aptitudes et besoins humains, et leur accessibilité devrait être garantie.
  • Bien-être sociétal et environnemental: les systèmes d’IA devraient être utilisés pour soutenir des évolutions sociales positives et renforcer la durabilité et la responsabilité écologique.
  • Responsabilisation: il convient de mettre en place des mécanismes pour garantir la responsabilité à l’égard des systèmes d’IA et de leurs résultats, et de les soumettre à une obligation de rendre des comptes.

Source : Commission Européenne – COMMUNIQUES DE PRESSE – Communiqué de presse – Intelligence artificielle: la Commission franchit une étape dans ses travaux sur les lignes directrices en matière d’éthique

“Over the past few months, I have been collecting AI cheat sheets. From time to time I share them with friends and colleagues and recently I have been getting asked a lot, so I decided to organize and share the entire collection.”

Source : Cheat Sheets for AI, Neural Networks, Machine Learning, Deep Learning & Big Data

« Older posts

© 2020 no-Flux

Theme by Anders NorenUp ↑