The Moral Machine

Tôt ou tard, les machines devront prendre des décisions toujours plus difficiles – comme celle de vie ou de mort.

Elles ont depuis longtemps arrêté de se limiter à des tâches prédéfinies, elles communiquent entre elles, apprennent, développent de nouvelles fonctionnalités, et nous aident dans de nombreux nouveaux domaines de notre vie. Et tout cela de façon autonome. Le thème du moment est certainement: les voitures automatiques.

Même si le gain de temps est un atout convaincant, l’avantage majeur de cette évolution réside plutôt dans le fait que le “facteur humain” sera exclu de l’équation de la sécurité routière. D’un point de vue strictement objectif et dans la perspective d’une sécurité maximale, les accidents seront fortement réduits avec un ordinateur au volant. Pourtant: les incidents imprévus ne peuvent jamais être exclus – même lorsque des capteurs élaborés, des mécanismes de sécurité intelligents et des réseaux routiers toujours mieux connectés réduisent de beaucoup le risque, l’on n’est jamais à l’abri d’une défaillance technique soudaine. Et des décisions difficiles se posent, avec un enjeu de vie ou de mort.

Le site „The Moral Machine“ – créé par le Massachusetts Institute of Technology – pose une question à laquelle il est impossible, pour nous humains, de répondre: Quelle vie a “le plus de poids”, celle d’un jeune ou d’une personne âgée? Celle d’un criminel en fuite ou celle d’un animal? Celles de quatre sans-abris ou d’une femme médecin enceinte? Pour le moment, nous sommes amenés à prendre ces décisions nous-mêmes et, bien heureusement, seulement dans le cadre de cette expérience, à la suite de laquelle toutes les réponses seront enregistrées, évaluées et mises à la disposition de tous pour être analysées. Le but de cette collecte de données à grande échelle est simple: approfondir la discussion sur le thème de l’éthique des machines.

Ainsi le Big Data aide aujourd’hui non seulement à développer les modèles d’entreprises existants ou à trouver des approches nouvelles et innovantes pour sa propre activité, mais il trace aussi le chemin pour préparer à une transformation fondamentale et digitale de notre société.

Leave a Reply

Your email address will not be published. Required fields are marked *