Ethique & IA
Ce terme renvoie à l'idée que les systèmes d'IA devraient être développés pour agir de manière équitable et impartiale.
Equité (fairness)
Ce film Marvel de 2015 met en scène une IA nommée Ultron qui cherche à ramener la paix sur Terre en éradiquant l'humanité.
Avengers: Age of Ultron
L'IA act classe l'IA en fonction des risques qu'elle présente. Quelles sont les 4 types de risque énumérés par ce règlement ?
Les risques inacceptables
Les hauts risques
Les risques limités
Le risque minimal
Ce principe garantit que l'IA respecte les valeurs humaines et fonctionne de manière transparente
Ethical AI (IA digne de confiance)
Dans ce film Pixar de 2008, un petit robot collecteur de déchets s'embarque par inadvertance dans un voyage spatial qui décidera du sort de l'humanité.
WALL-E
A votre avis, quelles mesures sont prévues par l'IA ACT pour les IA qui génèrent des "risques limités" ?
Le risque minimal n'est pas réglementé, y compris la majorité des applications d'IA actuellement disponibles sur le marché unique de l'UE, telles que les jeux vidéo et les filtres anti-spam activés par l'IA - au moins en 2021 ; cette situation est en train de changer avec l'IA générative.
Ce dilemme implique que l'IA prenne des décisions difficiles susceptibles d'affecter des vies humaines, comme dans le cas des voitures autopilotées.
Dilemme du tramway
Dans ce film de 2001, un androïde enfantin nommé David cherche à devenir « réel » pour gagner l'amour de sa mère humaine
IA (Steven Spielberg)
A votre avis, quelles mesures sont prévues par l'IA ACT pour l'IA à "risque limité" ?
Les systèmes d'IA à risque limité, sont soumis à des obligations de transparence plus légères : les développeurs et les déployeurs doivent s'assurer que les utilisateurs finaux sont conscients qu'ils interagissent avec l'IA (chatbots et deepfakes).
Comment appelle-t-on les décisions de l'IA qui renforcent les stéréotypes sociétaux si elle n'est pas correctement contrôlée ("paramétrée").
Biais algorithmiques
Ce film de 2013 met en scène une IA nommée Samantha qui noue une relation romantique avec un humain.
Her
Quels outils sont-ils considérés comme "à haut risque" par l'IA ACT ?
Parmi ces catégories "à haut risque", on trouve notamment des domaines comme l'application de la loi, la migration, les infrastructures critiques, l'éducation, ou encore l'administration de la justice.
Ce terme désigne la pratique consistant à rendre les processus décisionnels de l'IA compréhensibles et clairs pour les utilisateurs afin de garantir la confiance et la responsabilité.
Transparence
Dans ce film de 2004, un policier enquête sur un crime qui pourrait avoir été commis par un robot dans un monde régi par les trois lois de la robotique.
I, Robot
Est-ce que l'IA ACT prévoit des utilisations de l'IA qui seraient "inacceptables" et, dans l'ffirmative, pouvez-vous donner des exemples ?
Les systèmes d'IA qui contreviennent aux valeurs de l'Union européenne en violant les droits fondamentaux sont interdits, tels que :
La manipulation inconsciente des comportements
L'exploitation des vulnérabilités de certains groupes pour influencer leur comportement
La notation sociale basée sur l'IA à des fins générales par les autorités publiques
L'utilisation de systèmes d'identification biométrique à distance "en temps réel" dans des espaces accessibles au public pour l'application de la loi (sauf exceptions)