De la responsabilité entre les hommes et les machines

 

Article très intéressant dont le titre original est : « Co-cooncevoir le monde avec les machines »  trouvé par Wil (cliquez sur le titre pour aller directement sur l’article, une partie est reproduite ci-après )

Un des sujets est la responsabilité des humains et des machines et la notion de de-responsabilisation des humains dans les cas d’erreurs de la machine (gps qui arrive ailleurs que là où c’était prévu ou pus grave les erreurs de pilotes automatiques dans les avions ou les systèmes de contrôle des centrales nucléaires, on a eu des précédents il me semble!).
A la base, si je ne me trompe pas, il y a le choix humain de recourir à la technologie. La responsabilité première n’est-elle pas là et n’avons-nous pas le choix de transférer nos compétences dans la machine ou pas ? Comme dans le cas du chauffeur « victime » de son gps … n’est-il pas plutôt victime de son choix de ne pas connaître son trajet par lui-même ?

Ensuite, petite remarque personnelle sur le titre qui me donne l’impression qu’on cherche à me faire avaler un peu plus profond la pillule du tranhumanisme : l’utilisation du terme « co-concevoir » est redoutable, il établit le postulat que la machine est capable de créer. Je suis d’accord avec le fait que par son action passive, elle a un impact sur ce qui arrive. Mais jusqu’à preuve du contraire, il n’y a pas INTENTION primordiale ou PREMEDITATION quel que soit la puissance de l’algorythme utilisé.

ci-dessous un extrait de l’article originel :

 

excellent Ethnography Matters (@ethnomatters) revenait en juin, via une série de billets, sur la question de la co-conception homme-machine.

L’opposition homme-machine est stérile

Pour l’ethnographe Tricia Wang (@riciawang), l’opposition binaire homme-machine est nocive. Cette opposition nous empêche notamment d’apprécier combien nous nous trompons en croyant que les machines produisent des résultats qui ne se trompent pas ou en croyant que les machines produisent des résultats sans avoir recours aux humains. Cette opposition empêche les entreprises de faire face à leurs responsabilités, notamment aux erreurs de leurs systèmes, et nous empêche d’inventer une nouvelle approche pour mieux intégrer l’intelligence humaine et l’intelligence des machines pour produire de meilleurs systèmes.

 

Or, rappelle l’ethnographe, les humains et les machines ont toujours interagi l’un sur l’autre : nous avons changé nos outils autant que les outils nous ont changés. Pour réaliser la valeur de ces échanges, nous avons besoin de faire un saut dans la façon dont nous concevons nos relations avec les machines. Nous avons besoin d’embrasser nos relations comme un système holistique. Or, le récit culturel de l’opposition raconte l’inverse et nous conduit même à un certain réductionnisme. Il rapporte que les machines sont impartiales et intelligentes et qu’elles peuvent corriger nos faiblesses si nous nous remettons à elles. Ce n’est pourtant ce que montrent plusieurs chercheurs… qui travaillent à une meilleure intégration des interactions entre l’homme et la machine, à l’image notamment de Sorelle Friedler qui travaille a prévenir la discrimination des systèmes d’apprentissage automatisé via le programme Equité des algorithmes du College d’Haverford.

Pour Tricia Wang, ces recherches montrent que l’IA commence à sortir des seuls laboratoires scientifiques à mesure que ses applications deviennent de plus en plus pratiques. Pour elle cependant, l’enjeu n’est pas tant de rendre les machines plus empathique ou éthique, mais bien de faire évoluer nos systèmes socio-techniques eux-mêmes pour qu’ils soient plus empathiques et éthiques. Si les machines ne savent pas comprendre la discrimination, les humains eux savent et ce n’est qu’en partenariat avec les humains qu’elles apprendront le sens, les valeurs, la morale et l’éthique.

Il y a toujours des données qui ne sont pas quantifiables et donc que les machines ont du mal à prendre en compte

Pour le designer et architecte Che-Wei Wang (@sayway), le rôle du designer est en train de changer, explique-t-il sur Ethnography Matters. Avec le développement d’algorithmes génétiques, ceux-ci ne devront plus imaginer des solutions de conceptions dédiées, mais des critères que les algorithmes devront suivre jusqu’à trouver les meilleures solutions adaptées aux critères spécifiés. Si les algorithmes changent le processus de conception lui-même, alors comment les concepteurs devront-ils changer d’état d’esprit pour en tirer parti ?

Les algorithmes génétiques appliqués à la conception consistent à utiliser des logiciels (comme notamment Dreamcatcher d’Autodesk) pour déterminer les paramètres d’une conception à l’aide d’un algorithme qui génère nombre de formes selon une multitude de critères pour trouver la plus adaptée à force d’itérations. Bien sûr, dans ces nouvelles manières de faire de la conception, les critères qui président à ce que l’on souhaite faire sont primordiaux et vont impacter directement les résultats. Si le sujet n’est pas sans générer d’inquiétudes (voir notamment celles du designer Dan Saffer que nous évoquions il y a 2 ans), pour Che-Wei Wang l’enjeu reste de créer de meilleures données pour alimenter les projets.

Le problème est que « les projets utilisent souvent des données qui sont disponibles plutôt que des données qui sont pertinentes ». Et dans les données, la prise en compte des facteurs humains est souvent la plus difficile à quantifier et intégrer. Les algorithmes génétiques peuvent ainsi aider à développer des immeubles qui prennent en compte la consommation énergétique, la lumière, les déplacements… plus que les besoins des hommes, notamment faute de données. En design, choisir « la meilleure » solution est forcément subjectif. Pour concevoir une potence de guidon de vélo par exemple, on peut prendre en compte les forces en oeuvres, mais aussi la performance, l’esthétique, la sécurité, les matériaux, la mode… Or, il y a toujours des données qui ne sont pas quantifiables, donc que la machine aura du mal à prendre en compte. D’où la nécessité de s’assurer d’un pilotage par l’humain… Enfin, plus qu’un pilotage : à l’avenir, le rôle du designer sera plus proche de celui d’un contrôleur aérien que d’un pilote d’avion, qui devra s’assurer de la qualité des données et des critères.

Des machines pour aider les humains, pas s’y substituer

Pour Molly Templeton (@mememolly), spécialiste des médias sociaux du collectif Everybody at once, de plus en plus de gens imaginent que les robots seront le plus à même de prendre en charge la communication avec les humains, comme l’affichent les promesses des chatbots ….

lien vers l’article complet en cliquant ici

 

Dernière réflexion issue de ma recherche d’image pour cet article , je suis tombé sur ce logo issu du site transhumanistes.com

La symbolique est intéressante non ? et révélatrice de l’idée derrière le transhumanisme ….

A bon entendeur ….

KOAN