De la responsabilité entre les hommes et les machines (suite)

Suite à un premier article la semaine passée sur la question et que vous pouvez trouver ci-après : https://lesbrindherbes.org/2016/09/30/de-responsabilite-entre-hommes-machines , j’ai eu un échange fort intéressant avec quelqu’un dont l’informatique est le quotidien et le job et qui nous donne une vision intéressante et complémentaire du premier article.

En voici la teneur :

J’en ai un peu assez en fait t’entendre dans le monde de l’IT (ndlr : le monde professionnel de l’informatique et de la technologie, je suppose) le « c’est la faute de personne ». Et nous tendons de plus en plus dans ce sens.

La découpe en plusieurs petites parties de chaque point de responsabilité fait qu’au final, personne n’est responsable. Il y a le bouc émissaire publique soit ; mais au fond, c’est toute la chaîne et chaque point de la chaîne qui a sa part.

Et notre habitude, bien sûr, à toujours afficher un seul et unique responsable ne doit plus vraiment être d’actualité.

Un exemple :

Je suis client à la caisse d’un petit commerce. Lorsque la caissière passe mon article, tout plante. Il faut recommencer à repasser tous les articles ! La caissière est un peu stressée, « tape du point » sur sa caisse, crie « encore ! » et désabusée, reprend tous les articles pour les repasser.

A qui la faute ?!

– La caissière qui ne gueule pas assez fort auprès de son supérieur. « J’ai déjà un travail, je pas faire trop de vague », etc… 

– Le supérieur qui n’est peut-être pas au courant, qui pense que c’est pas si grave ou pénalisant, qui n’a pas payé son contrat de maintenance ?

– Le commercial de la société qui a vendu le matériel ? Qui a fait passer de la pisse pour de la bière d’abbaye au commerçant qui s’est fait avoir au passage ?

– Le supérieur du développeur du programme de la caisse automatique ? Qui surchargé de taff imaginaire (tableau excel avec les mauvais résultats et réunions sur réunions complément inutiles) ne fait que gueuler sur ses développeurs, ou qui ne les défend pas auprès de sa hiérarchie ?

– la hiérarchie en question qui paie beaucoup trop cher ses dev (developpeurs) qui n’aime que glander ?

– Le développeur qui en marre de son taff de merde.. pisse du code bâclé, parce qu’il estime qu’il est mal payé ou qu’il est juste trop stressé par le vie… 

Dans toutes les boites dans lesquelles je suis passé, ce schéma grossier est le même.

Pourtant, à chaque étape, de la conception à l’utilisation, chacun pouvait essayer de faire mieux. Alors à qui la responsabilité. Puisque c’est bien de sa dont on parle. De la responsabilité de chacun au quotidien.

Va-t-on blâmer demain le bureau sur lequel je bosse qui n’arrête pas de faire tomber mon écran d’ordi ?

Non, je ne crois pas. Pourtant, la chaîne de responsabilité peut-être dessinée de la même manière.

Alors on va me dire qu’il s’agit intelligence artificielle (AI). « There is no such things ! Period ! » (ça n’existe pas ! c’est tout !)

Toute intelligence artificielle reste aujourd’hui désigné par l’homme. Ce qu’un programme informatique (AI) « apprend » n’est qu’une suite de « si… ou… alors fait ça… » Oui, c’est juste ça… 

SI une personne dit F**** sur le chat, alors regarde dans la grosse base de donnée si elle a le droit de le dire… SI c’est le directeur, alors ne fait rien, SI ce n’est pas le directeur, regarde SI il l’a déjà dit avant, etc… jusqu’à autoriser le message OU prévenir le directeur qu’il n’est pas censé employer ces termes, etc…

Voilà, grosso merdo, c’est ça notre « intelligence » artificielle.

Encore un mot bidon pour relancer l’industrie IT et intégrer le fait que tout le monde garde dans de grosses bases de données les coutumes et usages de tous le monde… Pour nous faciliter la vie il paraît, au détriment de notre vie privée… 

J’ai encore vue un exemple hier dans le dernier Cash investigation sur l’industrie de la bouffe.

Comme personne ne comprend que dalle à l’informatique, le mythe perdure et permet ce genre d’abus.

Alors, à qui la responsabilité ?

l’homme est condamné à être libre, car une fois jeté dans ce monde, il est responsable de tout ce qu’il fait

C’est bien Sartre, il résume bien ce monde auquel on participe et qui nous permet d’avoir à la fois « la nausée » et « les mains sales » , merci PIerre, j’ai toujours été fan de Desproges…

La question finale posée par cet informaticien est clairement essentielle dans notre vie et lâcher cette respnsabillité qui est la noter en chaque instant aboutit à ouvrir la porte à tous les abus et tous les obscurantismes , ouvrez la fenêtre, sortez de chez vous, toutes les preuves sont là ….

L’abandon de la Responsabilité entraîne la soumission à l’Autorité – Stanley Milgram

K