Paul Sourour raconte que dans les années 2000, alors qu’il était jeune programmateur, il a été engagé par une entreprise de marketing canadienne, dont les principaux clients étaient des laboratoires pharmaceutiques. La loi canadienne étant assez stricte sur la publicité pour les médicaments, et interdisant la promotion directe d’un traitement, le site se présentait comme une plateforme d’information et fabriquait des quizz qui, quand les internautes y répondaient, les orientaient vers tel ou tel traitement en fonction des réponses. Paul Sourour se voit confié la fabrication d’un quizz à destination des jeunes filles. Toutes les spécifications lui sont données par son entreprise, il n’a qu’à écrire le programme. Ceci fait, il s’aperçoit que, quelles que soient les réponses, on ne tombe que sur un seul médicament. Mais ça ne le gêne pas. Il a fait le travail pour lequel il est payé et le client est ravi. Mais un collègue lui envoie un article racontant le suicide d’une jeune fille, attribué manifestement aux effets secondaires de la prise de ce médicament. Paul Sourour découvre à cette occasion que ce traitement est répertorié comme ayant des effets secondaires puissants. Sachant qu’il a été prescrit à sa petite soeur, il l’appelle pour qu’elle cesse de le prendre, ce qu’elle fait. Peu après, il démissionne, et enterre cette histoire. Si Paul Sourour y revient aujourd’hui, c’est parce qu’il constate la place prise par les programmes informatiques dans notre vie de tous les jours et que les développeurs sont devenus “la dernière défense contre des pratiques dangereuses et n’obéissant à aucune éthique”. Il invite donc les programmeurs à faire en sorte que leur code respecte non seulement la loi, mais l’éthique.
Etonnamment, cet article a beaucoup circulé dans le monde des technologies, il a été partagé à plus de 30 000 reprises ces derniers jours, et, surtout, il a provoqué d’innombrables confessions de la part de programmateurs qui, sur Reddit ou Hacker News, se sont mis à raconter des expériences similaires. L’un raconte raconte qu’on lui a demandé d’utiliser, pour faire circuler les informations des clients, des ondes radio qui étaient réservées aux urgences (parce qu’elles étaient moins encombrées, évidemment). Un autre explique qu’il a été payé pour voler des lignes de code du concurrent ; un autre encore pour falsifier des bilans financiers d’entreprises clientes par des tours de passe-passe informatiques. Etc.
On peut aussi évoquer les personnes qui conçoivent des programmes et des infrastructures de surveillance de masse comme Amesys, Qosmos, etc.
[...]
Eh bien, il y en a peut-être une, qui tient à ce qu’est devenu le code informatique dans nos sociétés. En 2000, le grand juriste de Harvard Lawrence Lessig publiait un texte visionnaire devenu très vite un classique de la littérature sur le numérique. Intitulé “Code is law”, “le code, c’est la loi”, ce texte posait que, du fait de l’informatisation croissante de nos sociétés, le programme informatique était amené à faire loi ; ce serait des programmes informatiques, des architectures techniques, des protocoles, qui allaient nous dicter ce qu’il serait possible ou de ne pas faire dans ce que Lessig appelait encore le “cyberespace”... mais on était en 2000. Le cyberespace est devenu notre monde. Ce sont des algorithmes qui répartissent les élèves dans les lycées parisiens, ce sont d’autres programmes qui décident des informations que l’on peut ou pas partager dans les réseaux sociaux, et de la manière dont elles nous arrivent. Tous ces programmes, à leur manière, font loi. Facebook est en quelque sorte une juridiction à laquelle se soumettent volontiers un milliard et demi d’utilisateurs.
Lessig place le problème sur un plan politique : “Si c’est le code qui détermine nos valeurs, ne devons-nous pas intervenir dans le choix de ce code ?”
Gros +1.
À propos de l'éthique de l'informaticien-ne, qu'il-elle soit développeur-euse ou adminsys ou que sais-je d'autre, je recommande d'écouter cet excellent talk de Stéphane Bortzmeyer : http://shaarli.guiguishow.info/?uB1wXA .
Via https://twitter.com/xporte/status/800976016298672128 via https://twitter.com/bortzmeyer