Le Parlement de Californie a adopté, mercredi 28 août, une loi pour encadrer les puissants modèles d’intelligence artificielle (IA) générative, malgré l’opposition d’entreprises et d’élus qui craignent qu’une telle régulation n’étouffe la technologie naissante.

"Je suis fier de la diversité de la coalition qui a soutenu ce projet de loi, une coalition qui croit profondément à l’innovation et à la sécurité", a déclaré sur X Scott Wiener, l’élu démocrate qui a parrainé le texte.

Gavin Newsom, gouverneur de la Californie, a jusqu’au 30 septembre pour signer la loi ou lui opposer son veto. Sa décision fera forcément des heureux et des déçus : le texte divise les entreprises, les chercheurs et même les élus démocrates.

"Beaucoup d’entre nous au Congrès pensons que la loi SB 1047 est bien intentionnée mais mal informée" a déclaré récemment Nancy Pelosi, élue de Californie à Washington et l’une des voix les plus influentes du parti. "Nous voulons que la Californie soit à la pointe de l’IA d’une manière qui protège les consommateurs, les données, la propriété intellectuelle et bien plus encore. (...) SB 1047 nuit à cette fin plus qu’elle n’y contribue", a-t-elle ajouté.

Baptisée "Loi pour une innovation sûre dans les modèles d’IA pionniers" (Safe and Secure Innovation for Frontier Artificial Intelligence Models Act), elle vise à empêcher les grands modèles de causer des catastrophes majeures, entraînant la mort d’un grand nombre de personnes ou des incidents de cybersécurité conséquents.

Scott Wiener a assoupli le texte d’origine : il oblige les développeurs de grands modèles d’IA à tester leurs systèmes et à simuler des cyberattaques, mais accorde moins de pouvoir qu’initialement prévu aux autorités californiennes pour les obliger à rendre des comptes ou les poursuivre en justice.

Plusieurs entreprises du secteur ont fait part de leur opposition, OpenAI en tête. Le créateur de ChatGPT craint une fuite des innovateurs de l’État américain et de sa fameuse Silicon Valley, et préférerait une législation nationale.

Son concurrent Anthropic estime en revanche que les avantages de la nouvelle loi "l’emportent probablement sur ses coûts".

Plus surprenant, le texte a aussi obtenu le soutien d’Elon Musk, souvent remonté contre les autorités de nombreux pays. Le patron de Tesla, X et de la start-up d’IA générative xAI, pense que les risques que l’IA fait courir au public justifient une réglementation. "Il s’agit d’une décision difficile qui va mécontenter certaines personnes", a-t-il déclaré lundi.

L’IA générative permet actuellement de produire des contenus de bonne facture (textes, images, etc...) sur simple requête en langage courant. Mais elle a le potentiel, selon les ingénieurs impliqués, d’aller beaucoup plus loin et donc de résoudre des problèmes importants, mais aussi d’en causer.