Pourquoi le PDG d’OpenAI appelle à plus de régulation de l’IA et ce que cela signifie

Avec l’incroyable succès de l’outil de chatbot d’OpenAI, ChatGPT, beaucoup sont impatients de voir ce que l’entreprise va faire ensuite. Mais le PDG d’OpenAI a maintenant appelé à une plus grande réglementation de l’IA. Alors, pourquoi est-ce le cas, quel effet cela aura-t-il, et y a-t-il un motif ici pour OpenAI ?

Pourquoi Sam Altman appelle-t-il à une plus grande réglementation de l’IA ?

Crédit photo : TechCrunch/Flickr

Sam Altman est le PDG d’OpenAI, la société à l’origine de l’outil de traitement du langage ChatGPT. ChatGPT est devenu une sensation mondiale, mais malgré son succès, Altman fait maintenant pression pour une réglementation plus poussée de l’IA.

Le 16 mai 2023, Altman a participé à une audition de la sous-commission judiciaire du Sénat et a exhorté les membres du Congrès à continuer à réglementer l’IA. S’exprimant lors de l’audience, le PDG d’OpenAI a déclaré que « la réglementation de l’IA est essentielle » et que « l’intervention réglementaire des gouvernements sera essentielle pour atténuer les risques liés à des modèles de plus en plus puissants. »

M. Altman a également suggéré que « le gouvernement américain pourrait envisager une combinaison d’exigences en matière de licences et de tests pour le développement et la diffusion de modèles d’IA au-delà d’un certain seuil de capacités », comme on peut le voir dans la retransmission de l’audition sur CNBC, dont le lien figure ci-dessous.

Au cours de l’audition, M. Altman a reconnu son amour pour la communauté de l’IA à code source ouvert et a même suggéré que l’IA pourrait un jour contribuer à lutter contre le changement climatique et à guérir le cancer.

Toutefois, M. Altman a également rappelé au Congrès qu’un « nombre relativement restreint de fournisseurs » peut fournir des services et des outils de pointe, ce qui représente « un avantage et un danger ». M. Altman a également déclaré que le fait d’avoir moins de développeurs d’IA d’avant-garde à surveiller peut être bénéfique pour le gouvernement, tant que les consommateurs ont encore suffisamment de choix.

Au cours de l’audition, le sénateur Richard Blumenthal a qualifié l’IA de « bombe dans un magasin chinois, pas de taureau ». En outre, la politicienne Amy Klobuchar a fait part de ses préoccupations quant à la manière dont des outils tels que ChatGPT peuvent contribuer à la désinformation électorale.

Il est donc évident que les professionnels du secteur et les législateurs sont préoccupés par l’IA et son impact futur. Mais quel sera l’effet d’une nouvelle réglementation sur l’industrie de l’IA ? Sera-ce une bonne ou une mauvaise chose ?

Quels sont les avantages d’une réglementation accrue pour l’industrie de l’IA ?

Il y a plusieurs raisons pour lesquelles la réglementation de l’IA pourrait être un avantage, tant pour les développeurs que pour les consommateurs.

Tout d’abord, la réglementation gouvernementale peut empêcher l’utilisation malveillante de l’IA. Les nouvelles technologies sont souvent utilisées à mauvais escient par les criminels pour lancer des attaques et des escroqueries. Compte tenu du vaste potentiel de l’IA, il est logique de mettre en œuvre des réglementations relatives à l’utilisation éthique afin d’éviter la prolifération des crimes à l’aide de cette technologie.

Par exemple, les fabricants d’IA ont besoin d’une réglementation stricte pour empêcher la production de technologies d’IA susceptibles de constituer une menace pour la vie humaine. Par ailleurs, les développeurs et les entreprises d’IA peuvent être tenus de demander une licence avant de produire et de commercialiser du matériel ou des logiciels alimentés par l’IA. Une entreprise devra faire l’objet d’un audit avant d’être autorisée à produire des produits d’IA ou devra satisfaire à certains critères d’essai avant d’être mise sur le marché.

Toutefois, certains pourraient considérer la réglementation de l’IA comme une mauvaise nouvelle, en particulier les développeurs qui ne veulent pas de restrictions sur ce qu’ils peuvent ou ne peuvent pas produire et mettre à la disposition du public. Si la réglementation de l’IA empêche les développeurs de faire de la recherche et de créer des technologies révolutionnaires, telles que des équipements de soins de santé, cela pourrait s’avérer plus dommageable pour l’humanité qu’autre chose.

Certains estiment également qu’il est beaucoup trop tôt pour parler de réglementation de l’IA, bien que la présence de l’IA dans de nombreuses industries aujourd’hui semble contredire ce point de vue.

La réglementation de l’IA est-elle une bonne nouvelle pour l’OpenAI ?

L’appel de Sam Altman en faveur d’une plus grande réglementation de l’IA a soulevé des questions quant à savoir si de telles contraintes profiteraient réellement à l’OpenAI.

Il est difficile de dire si une réglementation plus poussée sera un avantage net pour l’OpenAI. Cependant, lors de l’audition sénatoriale susmentionnée, Altman a suggéré que les entreprises d’IA comme OpenAI devraient faire l’objet d’un audit indépendant et d’une licence appropriée, ce qui suggère qu’il est heureux de participer à cette réglementation accrue.

Il semble qu’Altman soit légitimement préoccupé par le fait que l’IA devienne incontrôlable, ce qui explique pourquoi il s’est adressé au Congrès. Cependant, au cours de l’audition, Altman a fait l’éloge de ChatGPT, déclarant que le chatbot IA d’OpenAI est « plus susceptible de répondre de manière utile et véridique et de refuser les demandes nuisibles que tout autre modèle de capacité similaire ».

Il n’est pas surprenant que M. Altman ait un parti pris dans cette affaire, puisque ChatGPT est le fruit de l’imagination de l’entreprise qu’il dirige. Mais une réglementation plus poussée pourrait donner aux grandes entreprises d’IA déjà établies un avantage sur les petites organisations, en particulier si les licences, les permis et les longues périodes d’essai deviennent une exigence légale (car cela pourrait entraîner des coûts plus élevés et nécessiter plus de personnel).

La réglementation de l’IA est un sujet de controverse

À l’heure actuelle, la réglementation de l’IA fait l’objet de nombreuses opinions et idées différentes. Alors que certains pensent que cette technologie doit être encadrée, d’autres préfèreraient qu’elle reste telle quelle. Dans un avenir proche, les pays du monde entier pourraient introduire de nouvelles lois sur l’IA, et nous devrons attendre pour voir si cela s’avère être une bénédiction ou une malédiction.

S’abonner à notre lettre d’information