10 questions morales pour designer et développer des technologies et de l’IA responsable

Dans un monde où la technologie évolue à une vitesse fulgurante, il est impératif de s'interroger sur notre rapport à celle-ci. Le livre “10 questions morales pour designer et développer des technologies et de l’IA responsable” écrit par QCollective, un groupe de citoyens et d'utilisateurs de technologies, se penche sur cette problématique cruciale. L'ouvrage commence par une question fondamentale :

“ Que changerait-il si nous créions des technologies axées sur le bien-être de notre écosystème entier ? ”

Position délicate pour un passionné de technologie

En tant que lecteur passionné par notre rapport à la technologie, j'ai déjà exploré plusieurs ouvrages sur le sujet. Je suis convaincu que la technologie n’est pas neutre, et l'intelligence artificielle (IA) l'est encore moins. En effet, l'IA est souvent entraînée sur des contenus sans le consentement de leurs auteurs et autrices, ce qui soulève des questions éthiques majeures. J'ai été particulièrement attiré par ce livre après avoir vu la publication avec l'accroche :

“ If AI is the answer to everything, let's talk about the Questions. ”

Une approche critique

Totalement fasciné par l’IA générative et ses possibilités, j'aborde les technologies avec un esprit critique. Je suis conscient de notre inconscience quant à leur impact sur notre société au sens large. Comme le souligne une citation pertinente :

“ The underlying purpose of AI is to allow wealth to access skill while removing from the skilled the ability to access wealth. ”

Cela met en lumière les enjeux d'inégalité et d'accès à la technologie, mais souligne également la dévalorisation de la créativité et des compétences. En effet, alors que l'IA permet aux plus riches d'accéder à une main-d'œuvre qualifiée pour générer du contenu, ceux qui possèdent les compétences nécessaires voient souvent la valeur de leur travail diminuer, malgré son importance cruciale pour évaluer la qualité des résultats.

Un cadre pour questionner la technologie

Retour au livre qui propose un cadre de réflexion pour questionner toute technologie et orienter celle-ci vers une finalité plus positive pour la planète et l’humanité. Voici les dix questions essentielles à se poser sous forme de workshop et discussion avec tous les designer de ladite technologie :

Comment ma technologie est-elle bénéfique pour le monde au sens large et dans son ensemble ?
Dans quelle mesure ma prise de conscience de notre interdépendance est-elle intégrée dans cette technologie afin de ne causer de souffrance à rien ni personne ?
Comment ma création nourrit-elle la liberté de découverte ?
Suis-je (ou quelqu'un d'autre) capable de l'éteindre ?
Quel est le pire qui puisse arriver si ma technologie est utilisée à des fins malveillantes ?
Que penseront nos petits-enfants de l'impact de cette création sur des choses telles que les limites planétaires, l'univers et la dignité des habitants de la Terre ?
Est-ce que je comprends vraiment comment ma technologie fonctionne et suis-je prêt à investir pour la rendre transparente afin d'éduquer toutes les parties prenantes ?
Comment ma création technologique encourage-t-elle les gens à interagir avec intégrité ?
Ai-je conçu ma création pour éviter d'aggraver l'inégalité et la fragmentation des besoins et des désirs ?
L'éthique et la durabilité font-elles partie intégrante de ma création ?

Chaque question est accompagnée d'exemples concrets, notamment des technologies actuelles comme les systèmes SmartHome ou même ChatGPT, illustrant ainsi la méthode proposée

Législation et biais

Le livre aborde également les initiatives des différents pays en matière de législation sur l'IA, avec beaucoup d'exemple malgré la nouveauté et la vitesse d'arrivée de ses technologies. Un chapitre est également dédié aux biais et à la notion d’interconnexion des technologies, des sujets cruciaux dans le débat actuel sur l'IA responsable.

Les défis de l'IA responsable

Les défis liés à l'IA responsable sont nombreux : les biais, la véracité, la crédibilité, les boucles fermées, l'utilisation inappropriée, la sécurité des données, le déplacement d'emplois et l'impact environnemental. Ces enjeux nécessitent une attention particulière de la part des développeurs et des décideurs.

Navré, mais ce résumé ne remplace pas la lecture du livre !

Et non, tout n'est pas si facile. Je vous conseille vivement la lecture du livre. “10 questions morales pour designer et développer des technologies et de l’IA responsable” est un appel à la réflexion et à l'action pour tous ceux qui souhaitent contribuer à un avenir technologique éthique et durable.

Chez Antistatique, nous abordons l'IA avec transparence et passion. Nous faisons de notre mieux pour apprivoiser la technologie, toujours avides d'expérimenter. C'est cette volonté d'expérimentation qui est primordiale pour le moment. En nous appuyant sur des modèles ouverts et en proposant d'utiliser des serveurs situés en Suisse pour nos projets, nous veillons à ce que les modèles ne collectent pas de données des utilisateur·trices et utilisatrices. Cette approche est guidée par notre manifeste, qui oriente nos efforts pour faire les choses bien, même si les frontières demeurent floues. Nous restons engagés envers la protection de la vie privée et le respect des droits des individus. En intégrant ces principes dans notre travail, nous aspirons à créer des solutions technologiques qui non seulement répondent aux besoins de nos clients, mais contribuent également à un avenir plus éthique et responsable pour tous.