L’IA à l’épreuve de sa propre vitesse / Une régulation internationale aussi nécessaire que complexe

L’intelligence artificielle (IA) évolue à marche forcée. Il en va de même pour les enjeux qui l’accompagnent. Après ceux de souveraineté numérique, Ardian a choisi cette année d’organiser sa conférence annuelle dédiée à l’IA autour de la problématique suivante : comment faire face à sa vitesse ? Car la question, aujourd’hui, n’est plus tant de savoir si l’IA aura un impact ou non, a résumé François Jerphagnon, Head of Expansion chez Ardian et membre de son comité exécutif. Il s’agit désormais d’un constat consensuel. Faisant le parallèle avec la révolution électrique de la fin du XIXe siècle, il a d’abord rappelé que celle de l’IA était semblable, en ce qu’elle appelle à repenser l’ensemble d’un système pour pouvoir réellement bénéficier des gains de productivité associés, plutôt que de simplement remplacer une technologie par une autre. Mais au détail près que le temps et la vitesse d’exécution n’ont, dans le cas de l’IA, plus rien à voir, a relevé François Jerphagnon.

Et si la technologie opère sa mue à un rythme mensuel, les entreprises s’inscrivent dans un temps bien plus long, a-t-il ajouté. « Le problème ne tient pas nécessairement à un manque d’ambition ou de compréhension des enjeux. Il réside plutôt dans le décalage entre la vitesse du changement technologique et le rythme auquel nos institutions, nos entreprises et nos organisations sont capables de s’adapter », a également détaillé Pauline Thomson, Head of Data Science et managing director chez Ardian.

Trois convictions d’investisseur et d’entreprise

Dans ce contexte, François Jerphagnon a mis en avant trois convictions pour parvenir à faire face à la vitesse de l’IA. D’abord, le fait qu’elle relève avant tout d’un choix managérial : « L’essentiel est de repenser notre manière de travailler, et non de se contenter d’ajouter l’IA à ce que nous faisons déjà. Par ailleurs, nous devrions faire confiance aux personnes qui travaillent au quotidien, car ce sont elles qui perçoivent les changements en premier ». Ensuite, qu’une vitesse sans contrôle est dangereuse. « C’est pourquoi les données, la sécurité, la fiabilité des modèles et notre dépendance à un petit nombre de fournisseurs doivent être gérées au même rythme que nos expérimentations », a-t-il souligné.

« Troisièmement, la vitesse à laquelle nous mettons en œuvre ces changements relève de notre propre choix. Le lieu de stockage de nos données, les modèles sur lesquels nous nous appuyons : autant de questions qui touchent à la souveraineté, domaine dans lequel l’Europe a un rôle majeur à jouer. Nous disposons de chercheurs de haut niveau, de start-ups prometteuses et d’un tissu unique d’entreprises privées. Il faut garder à l’esprit que, parmi les entreprises présentes en Europe réalisant plus de cent millions d’euros de chiffre d’affaires, 95 % ne sont pas cotées en Bourse. Il s’agit donc d’un vaste vivier d’opportunités d’investissement pour nous, et ce n’est qu’un début », a-t-il poursuivi, rappelant qu’Ardian se devait d’approcher la question comme investisseur de long terme, mais aussi en tant qu'entreprise.

De la difficulté d’une compréhension fine

Mais s’il est évident que l’IA aura (ou a déjà) un impact sur les entreprises et l’économie, il reste néanmoins une limite dans sa mesure : les systèmes d’IA se développent presque plus rapidement que la compréhension scientifique de leur fonctionnement, a observé Daniel Andler, professeur émérite à la Sorbonne et membre de l’Académie des sciences morales et politiques. « Nous devons mieux comprendre les mécanismes qui permettent aux systèmes d’IA de fonctionner, ce qui leur permet de fournir les services qu’ils rendent aujourd’hui, mais aussi jusqu’où ils peuvent aller et quelles sont leurs limites », a-t-il relevé. « Nous avons également besoin de nouveaux concepts pour décrire leur forme de compréhension », a-t-il ajouté.

Jean Tirole a quant à lui rappelé que les systèmes d’IA n’avaient pas une vie autonome : ils sont le produit d’un travail humain et héritent finalement de nos comportements, au travers de leur pré-entraînement. Pour le Prix Nobel d’économie, il existe plusieurs limites à la compréhension exacte des modèles. D’abord, la communication, pour trouver les bonnes instructions à leur fournir, pour éclairer à qui elles profiteront. Ensuite, les incitations : « Les laboratoires d’IA sont engagés dans une course technologique. Ils sont donc soumis à certains biais et consacrent moins de temps à s’assurer que leurs systèmes sont sûrs. Dans leurs mécanismes de récompense, ils privilégient les performances au détriment de la vérité ou de l’explicabilité », a-t-il indiqué.

Avantages et risques partagés

L’économiste a souligné que l’IA recelait un potentiel prometteur, dans la santé ou encore en termes de création de richesse. Mais toute la question restera celle de l’usage qui en est fait. Il a notamment mis en garde sur les inégalités qu’elle risquait de créer, au sein des pays comme entre eux. À l’intérieur des pays, l’évolution de la répartition de la valeur ajoutée entre le capital et le travail en est un exemple.

Daniel Andler s’est montré relativement optimiste quant à l’impact qu’allait avoir l’IA sur l’emploi : cette dernière reste limitée au fait qu’elle n’est pas encore conçue pour appréhender des situations dans leur dimension vécue, interactive et évolutive. Pour Jean Tirole, les études économiques qui portent sur le sujet de l’emploi à date ne permettent pas vraiment de prédire la tendance, car portant sur des données passées. Et de nouveau, l’IA évolue trop vite pour formuler des projections. « Il y aura toujours des emplois. La question est de savoir si ce seront des emplois que les gens auront envie d’exercer, et à quels niveaux de rémunération », a-t-il indiqué. L’interrogation touche notamment les professions hautement qualifiées, par exemple chez les mathématiciens ou les radiologues. Une transition qui s’annonce délicate et qui n’est nullement comparable à d’autres révolutions.

La géopolitique comme variable centrale

D’autant que toutes ces évolutions s’opèrent dans un monde de plus en plus fragmenté, où la géopolitique devient une variable majeure de la course à l’IA, les États étant eux-mêmes engagés dedans. « Et soyons francs, il s’agit essentiellement de deux pays », a rappelé Jean Tirole, en référence à la Chine et aux États-Unis. Outre-Atlantique, les réglementations sont quasi inexistantes, a-t-il rappelé, et n’accordent que peu d’importance à la sécurité. « La sécurité est importante en Europe, mais nous n’avons de toute façon pas beaucoup d’IA. C’est un point absolument essentiel. Tant que nous ne disposerons pas de capacités suffisantes en matière d’IA, nous n’aurons pas voix au chapitre dans les négociations. Et l’ensemble de la réglementation, ou plutôt l’absence de réglementation, sera essentiellement déterminé par deux pays », a pointé Jean Tirole.

Il a rappelé l’épisode de juin dernier, au cours duquel Donald Trump avait brandi la menace de couper l’accès aux modèles les plus avancés d’Anthropic aux ressortissants étrangers. « Ces pays pourraient paralyser nos économies et compromettre l’ensemble de nos institutions par des cyberattaques en quelques heures », a alerté Jean Tirole, rappelant la vulnérabilité de l’Europe à cet égard. « C’est là que réside la menace principale. L’IA s’inscrit dans un mouvement général où le monde bascule, pour l’essentiel, vers la guerre – économique, sur Internet, ou armée. Dans ce contexte, la domination des deux superpuissances est extrêmement préoccupante », a corroboré Daniel Andler.

Les impératifs et obstacles d’une régulation mondiale

Comment parvenir dans ce cas, à garder la main et le contrôle ? Jean Tirole s’est montré sceptique à l’égard d’une idée d’autorégulation par les entreprises technologiques. Il a estimé que le secteur privé pourrait être associé à la vérification, expertise utile oblige. « Mais nous avons besoin, à un moment donné, d’une véritable régulation publique, capable d’inspecter les systèmes d’IA, de déterminer lesquels doivent être déployés et auprès de quel public », a-t-il indiqué, citant notamment en exemple les normes de sécurité alimentaire. Une régulation qui devra être internationale, a-t-il indiqué, faisant le parallèle avec celle existant sur les armes biologiques – dont les contrôles sont néanmoins délicats, pour illustrer la difficulté en la matière. L’Organisation des nations unies (ONU) avait d’ailleurs appelé, cet été, à mettre en place un cadre ambitieux de gouvernance mondiale de l’IA. « L’abandon actuel du multilatéralisme est, de ce point de vue, un désastre. C’est un peu comme le réchauffement climatique : il s’agit d’un bien public mondial. Si un système d’IA provoque une catastrophe, ses conséquences pourront également se faire sentir à l’étranger », a-t-il regretté.

Mais la tâche s’annonce ardue. Selon l’économiste, l’IA génère en effet des questions de régulation très spécifiques. Le premier problème est celui de l’asymétrie d’information entre les entreprises du secteur et les régulateurs. Vient ensuite celui des incitations déjà mentionnées, dans la mesure où celles des acteurs privés ne sont pas alignées sur les intérêts de la société. Le point reste aussi complexe pour déterminer les ressorts de la responsabilité. « Il faudrait élargir la responsabilité aux investisseurs, aux clients, voire aux entreprises comme Microsoft ou Nvidia, afin qu’ils puissent être tenus financièrement responsables si les garde-fous de ChatGPT étaient contournés », a expliqué Jean Tirole. Mais cela supposerait de bénéficier d’un certain nombre d’informations, de trouver des assureurs prêts à couvrir ce genre de risques.

Daniel Andler a lui aussi estimé qu’une autorité mondiale chargée de superviser l’ensemble du développement de l’IA était nécessaire, au regard des catastrophes qu’elle risquait de produire. « Nous devons trouver collectivement des solutions appropriées pour tout dommage causé par l’IA. Et seule une autorité internationale compétente en matière d’IA, sous quelque forme exacte que ce soit, peut mettre en place et appliquer ces solutions », a-t-il résumé.