Par MIKE MAGEE
Son Biographie déclare : « Il aborde des questions philosophiques sur les craintes et les possibilités des nouvelles technologies et sur la manière dont nous pouvons avoir les moyens de façonner notre avenir. Son travail pour rapprocher les cultures couvre l’intelligence artificielle, la cognition, le langage, la musique, la créativité, l’éthique, la société et la politique.
Il embrasse le titre de « interdisciplinaire », et pourtant sa thèse de doctorat à UC Berkeley en 1980, « a été l’un des premiers à stimuler le changement de paradigme vers des technologies de traitement du langage naturel basées sur l’apprentissage automatique ». Reconnu pour avoir inventé et construit « le premier traducteur de langue en ligne à l’échelle mondiale qui a donné naissance à Google Translate, Yahoo Translate et Microsoft Bing Translator », il est clairement un « connecteur » dans un monde actuellement consumé par les « diviseurs ». En 2019, Google a nommé De Kai comme « l’un des huit premiers membres de son Conseil d’éthique de l’IA ».
Le défi global de notre époque, selon lui, est celui des relations les uns avec les autres. Comme il le dit, « La plus grande peur est la peur elle-même – la façon dont l’IA amplifie la peur humaine de façon exponentielle… nous retournant contre nous-mêmes grâce aux médias sociaux alimentés par l’IA, qui entraînent la désinformation, la division, la polarisation, la haine et la paranoïa. » Le système de valeurs qu’il adopte « découle d’une perspective d’arts libéraux mettant l’accent sur la créativité dans les dimensions à la fois techniques et humanistes ».
Le Dr De Kai se sent particulièrement urgent ces jours-ci, ce qui est un peu inhabituel.
Enfant de 7 ans d’immigrants chinois à Saint-Louis, il parlait peu anglais, disant ce qu’il fallait dire sur le piano familial. Les étés se passaient entre Hong Kong et les États-Unis. D’autres ont remarqué qu’il ajoutait du blues aux morceaux classiques, ce qui a amené son grand-père à remarquer que les morceaux de synthèse lui semblaient « chinois ». Cela a amené le linguiste/musicologue en herbe à réfléchir plus tard : « Cela m’a fait réfléchir. J’ai réalisé que la façon dont nous comprenons la musique dépend vraiment du cadre de référence culturel que nous adoptons.
La musique et la technologie se sont mariées au cours de son doctorat à l’UC Berkeley et ont finalement fondé quatre décennies de recherche sur « le traitement du langage naturel et la créativité informatique ». Il a bien mérité le droit de se détendre, mais il est tout sauf à l’aise ces jours-ci, et la cause de son angoisse est l’intelligence artificielle existentielle.
Comme il l’a dit récemment : « Nous sommes sur le point de briser toutes nos normes sociales, culturelles et gouvernementales… Nos normes sociales n’ont pas été conçues pour gérer ce niveau de stress. »
De Kai s’est transformé en un Éthicien de l’IA. Il est en quête personnelle et désireux de mettre son âme à nu. Les questions qui l’empêchent de dormir la nuit portent toutes sur la question de savoir s’il élève correctement ses « enfants IA ». « Est-ce que je donne le bon exemple ? Suis-je un bon modèle ? Dois-je parler avec respect à AI et lui apprendre à respecter la diversité, ou est-ce que je lui montre qu’il est acceptable d’insulter les gens en ligne ? »
Il se concentre solidement sur le ici et maintenant, parce qu’il ne croit pas que le temps joue en notre faveur. « Nous avons aujourd’hui davantage d’IA qui font partie de notre société. Ce sont des membres fonctionnels, intégraux, actifs, imitatifs, apprenants et influents de la société plus que la plupart – probablement plus influents que 90 pour cent de la société humaine – dans le façonnement de la culture…. Même s’il s’agit d’IA vraiment faibles, la culture que nous façonnons conjointement avec nos membres artificiels de la société est celle dans laquelle chaque génération successive d’IA plus forte apprendra et diffusera sa culture. Nous sommes déjà dans ce cycle et nous ne nous en rendons pas compte parce que nous ne regardons pas les machines d’un point de vue sociologique… C’est sans précédent, étant donné que les façons que nous avons créées pour nous développer et établir des relations, bonnes et mauvaises, vont augmenter de façon exponentielle. par l’IA. De cette manière, l’impact que cela aura sur la société et la culture sera inimaginable. »
Développer les « IA conscientes » à l’ère de Trump n’est pas une mince affaire. Il exige que les enfants d’IA soient « conscients de leurs responsabilités éthiques ». Réussir cela dans un monde développé avec un système éducatif de plus en plus fracturé qui oppose la science et la technologie aux sciences humaines constituera un défi remarquable. Comme le dit De Kai : « C’est la pire période de l’histoire où un système éducatif paralyse les gens et les empêche de réfléchir profondément au-delà de ces frontières, à ce qu’est l’humanité face à la technologie.
Pour parvenir à « aligner l’IA sur les objectifs de l’humanité », il faudra peut-être que les Américains examinent leur propre santé et leur bien-être d’une manière qui pourrait être profondément inconfortable. Le bien-être de la population, les traités philosophiques et le compromis politique ne sont pas exactement nos points forts culturels.
Comment ferons-nous face à ces priorités concurrentes, se demande De Kai dans un récent Article d’opinion du New York Times: « Une gratification instantanée à court terme ? Un bonheur à long terme ? Éviter l’extinction ? Libertés individuelles ? Un bien collectif ? Des limites aux inégalités ? L’égalité des chances? Degré de gouvernance ? La liberté d’expression? À l’abri des discours nuisibles ? Degré de manipulation autorisé ? Tolérance envers la diversité ? Une imprudence autorisée ? Droits contre responsabilités ?
« La culture compte. Les IA font désormais partie intégrante de notre société », déclare De Kai. Changer de culture, comme le savent les professionnels de la santé, est un défi de taille. Il s’agit de compassion, de compréhension et de partenariats. Il s’agit de guérir, d’assurer la santé et de préserver l’intégrité des individus, des familles et des communautés. Et – plus important encore – il s’agit de gérer la peur, l’inquiétude et l’anxiété à l’échelle de la population.
Ce que De Kai envisage de faire, c’est de changer notre culture historique (une culture fondée sur l’intérêt personnel, l’hypercompétitivité et la méfiance à l’égard d’un bon gouvernement). C’est un défi de taille – quelque chose que les parents, les pasteurs, les politiciens et les médecins reconnaissent également. Les choses évoluent et les choses difficiles prennent du temps.
Mike Magee MD est un historien médical et un contributeur régulier au THCB. Il est l’auteur de CODE BLEU : À l’intérieur du complexe médico-industriel américain.
