Google a récemment révisé ses principes éthiques concernant l’utilisation de l’intelligence artificielle, supprimant des engagements clés qui interdisaient son emploi à des fins militaires ou de surveillance. Cette décision marque un tournant significatif pour le géant de la technologie, alors qu’il réaffirme son intention de collaborer avec des gouvernements démocratiques pour promouvoir la sécurité nationale et le développement économique mondial.
Un recul sur les engagements précédents
En 2018, Google avait établi des principes éthiques stricts pour encadrer l’utilisation de l’IA, notamment en promettant de ne pas développer de technologies pour des armes ou des systèmes de surveillance. Cette décision avait été prise à la suite de protestations internes contre un contrat avec le Pentagone, un projet connu sous le nom de “Project Maven”. À l’époque, des milliers d’employés avaient exprimé leur inquiétude quant à l’utilisation de la technologie de Google pour des fins militaires.
Les récentes modifications de ces principes montrent une volonté de Google de s’adapter à un paysage géopolitique en évolution. En effet, l’entreprise a retiré de ses engagements les clauses qui interdisaient explicitement de telles applications. Désormais, Google s’engage à appliquer une “surveillance humaine appropriée” et à prendre des mesures pour “atténuer les résultats non désirés ou nuisibles”.
Une réponse aux défis géopolitiques actuels
Les dirigeants de Google, notamment James Manyika, vice-président senior pour la recherche, et Demis Hassabis, PDG de Google DeepMind, ont justifié cette révision par la nécessité pour les démocraties de prendre la tête du développement de l’IA. Ils ont souligné que l’évolution rapide de la technologie et les tensions géopolitiques exigent une approche plus souple et collaborative.
Manyika et Hassabis ont déclaré dans un billet de blog que Google travaillera avec des gouvernements et des organisations partageant les valeurs de liberté, d’égalité et de respect des droits humains, afin de créer une IA qui protège les individus tout en soutenant la sécurité nationale. Cette orientation s’inscrit dans un contexte où la compétition mondiale pour la maîtrise de l’IA s’intensifie, en particulier entre les États-Unis et la Chine.
Implications pour le secteur technologique et la société
Le changement de cap de Google suscite des réactions variées au sein de l’industrie technologique et parmi ses employés. Certains expriment des inquiétudes quant à l’érosion des principes éthiques initiaux de l’entreprise. Parul Koul, ingénieur logiciel chez Google et présidente de l’Alphabet Workers Union, a exprimé ses préoccupations sur le fait que l’entreprise n’a pas consulté ses employés ou le public avant de prendre cette décision.
En parallèle, d’autres acteurs du secteur, comme Michael Horowitz, professeur de sciences politiques, voient dans cette évolution une adaptation nécessaire aux réalités actuelles. Selon lui, le rapprochement entre les entreprises technologiques américaines et le ministère de la Défense est inévitable compte tenu de l’importance croissante des technologies d’IA pour la sécurité nationale.
Vers un nouvel équilibre éthique
Alors que Google poursuit sa stratégie, il sera crucial de suivre comment l’entreprise parviendra à équilibrer ses ambitions commerciales avec ses engagements éthiques. La question reste de savoir si le cadre de surveillance et de diligence annoncé sera suffisant pour prévenir les abus potentiels de l’IA.
Ce tournant pourrait également inciter d’autres géants de la technologie à réévaluer leurs propres engagements éthiques à mesure que la pression géopolitique et économique s’intensifie. La manière dont Google mettra en œuvre ses nouvelles lignes directrices pourrait servir de modèle ou de mise en garde pour l’industrie dans son ensemble.
