IA et robots : peut-on leur faire totalement confiance ?

Paris, Porte de Versailles , notre Reporter “Meriem Live” en immersion au  salon  VivaTech pour confronter la théorie à la réalité.

Retrouvez un extrait d’une séquence vidéo de cet événement dédié à l’innovation, l’IA, la Robotique, la Quantique, la Tech, l’Espace. 

Dans les stands, des machines impressionnantes. Des robots qui dialoguent, des algorithmes qui anticipent nos moindres gestes, des systèmes qui prennent des décisions à notre place. De quoi fasciner. Mais aussi interroger.

Car le sujet est loin d’être simple. Les modèles d’IA les plus performants sont souvent les moins explicables, un phénomène bien connu des data scientists ( ingénieur ou chercheur spécialisé dans la collecte, l’analyse, l’interprétation et la modélisation des données, ainsi que la conception d’algorithmes pour en extraire des informations utiles, notamment dans le domaine de l’intelligence artificielle et du machine learning) : on parle de “boîte noire”. Les créateurs eux-mêmes peinent parfois à comprendre pourquoi une IA a pris telle ou telle décision. C’est tout l’enjeu de l’IA explicable, un domaine de recherche entier qui tente d’ouvrir ces boîtes noires pour les rendre plus transparentes. Certains experts s’inquiètent même de la possibilité que les algorithmes puissent agir de manière autonome, à l’insu de leurs concepteurs. Des entreprises comme Anthropic ont récemment alerté sur le risque que l’IA conçoive elle-même sa propre succession, ce qui pourrait faire perdre le contrôle aux humains.

Alors la réponse est-elle dans la technologie ou dans l’usage qu’on en fait ? Une certitude : la confiance ne se décrète pas, elle se construit, pas à pas, avec transparence et vigilance.

Pour en parler, on vous attend en direct  à notre prochain live sur ce sujet sensible?

 Rejoignez notre Communauté en vous enregistrant via le site www.coworkingchannel.news