Alerte Big Brother : Google étend ses tentacules dans le domaine de la santé
The Guardian : DeepMind de Google ne devrait pas collecter nos dossiers NHS* dans le secret
* (National Health Service = service national de santé )
Cet article du Guardian vous est proposé en version traduction automatique. Je suis désolée mais ce week-end est particulièrement occupé pour moi et le blog va tourner au ralenti jusqu’à lundi. Je n’ai donc pas le temps de vous donner une version plus correcte de la traduction, mais l’info m’a semblé suffisamment importante pour vous la livrer telle quelle. Cela reste compréhensible. Les arguments de Google, comme l’enfer, sont pavés de bonnes intentions. Il est tout de même scandaleux que cette manipulation ait pu avoir lieu sans que les patients en question en aient été informés alors qu’ils s’agit de leur vie intime. La société DeepMind qui par ailleurs est investie dans l’IA (intelligence artificielle) ne s’est pas distinguée jusqu’à présent par sa grande transparence. C’est en GB, mais à quand chez nous ?
Vive la démocratie !
———————————————————————————
Quand Il a été révélé que basé à Londres l’entreprise de Google DeepMind serait en mesure d’accéder aux dossiers du NHS de 1,6 million de patients qui utilisent trois hôpitaux londoniens gérés par la confiance royale NHS free – Barnet, Chase Farm et le Royal free – l’alarme à sonné !
Non seulement parce que les Britanniques gardent farouchement leurs antécédents médicaux intimes. Non seulement parce que Google, une pieuvre tentaculaire d’une entreprise avec des tentacules dans toutes nos vies, souhaite «organiser l’information du monde ». simplement parce que il est peu probable que les patients auraient consenti à Google la possibilité d’avoir cette information.
La question pour beaucoup est l’imbrication de ces préoccupations avec l’idée de l’intelligence artificielle (AI). DeepMind est qu’aucune entreprise ordinaire. Elle est spécialisée dans l’IA, le développement de technologies pour exposer quelque chose comme raisonnement intelligent.
L’an dernier, ses ingénieurs ont produit un document de recherche montrant qu’il avait créé un programme qui pourrait reproduire le travail d’un « testeur de jeux vidéo humaine professionnelle ». En Mars, DeepMind de Google a fait l’histoire en créant un programme qui a maîtrisé le conseil chinois de 3000 ans jeu de Go, pensé pour être au-delà de la technologie actuelle en raison du nombre de mouvements possibles. En ce qui a été considéré comme une étape importante de l’informatique, le programme AlphaGo de la société a battu le monde Go champion 4-1.
Maintenant, une telle société a une base de données contenant détaillées, privées, mais anonymisées, du dossier médical de toutes ces personnes, y compris le statut VIH, les surdoses passées et des avortements. DeepMind dit qu’il a besoin des données pour produire des alertes médicales pour les hôpitaux qui tentent de prévenir les blessures rénales aiguës.
La crainte pour certains est que la base de données DeepMind pourrait permettre beaucoup plus que le but déclaré d’origine. Le public est pas étranger au fait que NHS vie privée du patient n’a pas été sauvegardé – en 2014, le gouvernement a été contraint de mettre un terme, puis réduire ses propositions pour produire une seule base de données médicale anglaise sur les préoccupations que le secret médical pourrait être mis en danger.
DeepMind n’a pas caché son travail avec le NHS, annonçant en Février, il a travaillé avec le service de santé pour construire une application appelée Streams pour aider les médecins et les infirmières de surveiller les patients insuffisants rénaux. Ce qu’il n’a pas révélé était l’étendue de son courrier de données, qui comprend des documents historiques de patients. Au lieu des quelques milliers de patients atteints de lésions rénales, DeepMind a tous les dossiers des patients de tous les trois hôpitaux. Voilà des millions de documents confidentiels.
Il dit qu’il a besoin de la base de données du patient entier pour rendre le travail Streams. Les partisans de ces bases de données affirment que de telles données de progiciels puissants peuvent être créés pour diagnostiquer les maladies plus tôt.
Le magazine New Scientist a obtenu l’accord de partage de données entre DeepMind et le NHS, qui a révélé à quel point l’information a été mis à la disposition. la compétence de la société Google est de discerner des schémas complexes dans d’énormes quantités de données – et le NHS est une mine d’or pour un tel «apprentissage en profondeur».
Dans ce trésor de données historiques de l’activité au jour le jour l’hôpital, comme les dossiers de l’emplacement et l’état des patients – ainsi que qui les visite et quand. DeepMind obtiendra également la pathologie et de test de radiologie des dossiers des patients.
Outre les données en temps réel, DeepMind a accès aux documents historiques de soins intensifs et de l’accident et les services d’urgence. En traitant cette information, cela permet théoriquement à DeepMind de développer des prédictions basées sur des données qui sont trop importantes pour une seule personne à assimiler et à analyser.
En comparant les données des patients, DeepMind pourrait être en mesure de prédire que quelqu’un est dans les premiers stades d’une maladie qui n’est pas encore devenue évidente. Ceci est le Saint-Graal médicale: ne pas traiter un patient quand ils sont malades, mais de les traiter avant qu’ils ne tombent malades.
Utopique? Peut-être. Derrière la promesse de ces technologies réside le nœud du dilemme dans l’époque où nous vivons. Google, Facebook et d’autres se nourrissent sur le fait que nous suspendions nos droits à la vie privée en échange d’une nouvelle technologie intégrée avec nos données.
Comme Apple, Google est la construction d’une réputation dans les applications médicales. Il est vrai aussi que l’utilisation de l’apprentissage machine en médecine par des universitaires n’a rien de nouveau. Cependant ces données sont transmises à et contrôlé par l’une des sociétés les plus grandes et les plus puissantes du monde. Elle soulève des questions quant à savoir si elle pourrait rapidement devenir le plus grand dans ce domaine, un monopole de fait, au cours du NHS analyse de la santé.
AI représente également quelque chose de nouveau, une promesse qu’un programme pourrait améliorer lui-même – et dépasser très rapidement l’intelligence humaine. Ceci est la soi-disant «explosion de l’intelligence» – un point où l’humanité courtise sa propre destruction. Nous sommes assez loin cela. Personne n’a construit une machine qui respecte les normes sociales et éthiques, même au détriment de ses objectifs. Il est assez difficile d’obtenir les humains de le faire.
Certains peuvent dire une telle extrapolation est ridicule. Après tout Tay – le « intelligent » Twitter chatbot de Microsoft – a duré quelques heures jusqu’à ce qu’elle «apprenne» à devenir raciste, le tweeter génocidaire et a été supprimé. Cependant, comme Elon Musk, l’inventeur qui a initialement investi dans DeepMind, dit, il était plus de soucis « Terminator » la technologie qui l’a conduit à mettre en garde contre ses dangers.
Pour peut-être le son des raisons commerciales, DeepMind fonctionne sous le radar. Mais cela pose souvent plus de questions que de réponses. AI comité d’éthique de Google, établie lorsque Google a acquis DeepMind en 2014 pour £ 400m, reste l’un des plus grands mystères de la technologie, avec les deux sociétés qui refusent de révéler qui préside.
L’intelligence artificielle a besoin de données à apprendre. D’où l’aspiration de tous les dossiers des patients par DeepMind de Google. Alors, pourquoi le secret? Si les patients avaient été dit ce qui se passait et pourquoi, ils pourraient faire des choix éclairés. S’ils pensent que les risques potentiels de Google domination sur une nouvelle technologie pour les critiques NHS sont compensés par les avantages, puis nous allons avoir ce débat. Mais si la compagnie n’a pas expliqué et porte en secret, le public sera à juste titre ne pas aller de pair avec de tels plans.
ARTICLE ORIGINAL