Les principaux employés des géants de la technologie ont demandé conjointement : est-il temps de freiner le rythme de R&D de l’IA automatisée de pointe ?

Ceux qui comprennent le mieux le potentiel de l’IA font les choix les plus prudents. Le 30 juillet, les principaux employés de près de 12 géants de la technologie, dont OpenAI, Anthropic et Google, ont lancé une action commune appelant le gouvernement américain à promouvoir la coopération internationale et à contrôler le rythme de R&D de l'IA automatisée de pointe. Il ne s’agit pas d’une accusation de la part de critiques externes, mais d’un avertissement de la part des principaux praticiens du secteur.

Les principales revendications de la lettre commune

Les préoccupations de la lettre commune se concentrent sur les risques de sécurité de l’IA automatisée de pointe : avec l’amélioration rapide de l’autonomie et des capacités d’automatisation des systèmes d’IA, son risque potentiel de perte de contrôle est considéré comme au-delà de la portée contrôlable d’une seule entreprise ou d’un seul pays. Par conséquent, les cosignataires préconisent d’établir un rythme et un cadre réglementaire plus prudents pour la recherche et le développement de pointe en matière d’IA par le biais d’une coopération internationale et de mécanismes de coordination au niveau gouvernemental.

L'essence de cet appel est de rétablir l'équilibre entre « la vitesse de recherche et de développement » et « la sécurité et la contrôlabilité ». À une époque où les capacités des modèles sont itérées sur une base mensuelle, le fait que des personnes maîtrisant les technologies de pointe prennent l'initiative de « ralentir » est d'une grande importance - cela montre que les inquiétudes au sein du cercle technique concernant le risque de perte de contrôle ont évolué des déductions théoriques vers des préoccupations professionnelles personnelles.

De la critique externe à l'éveil interne

Du point de vue de l'industrie, cette action commune poursuit le débat de longue date de l'industrie de l'IA sur la « sécurité » et le « développement », mais les identités des participants ont subi des changements clés : dans le passé, c'étaient principalement des chercheurs externes et des défenseurs de l'éthique qui appelaient au ralentissement, mais cette fois, les participants se sont élargis pour inclure OpenAI (la société derrière ChatGPT), Anthropic (Claude L'entreprise derrière), Google (l'entreprise derrière Gemini) et d'autres employés de base des géants. Les préoccupations des acteurs internes touchent souvent davantage les industries et les décideurs politiques que les critiques extérieures.

Dans le même temps, l’appel cible le gouvernement américain et la coopération internationale, ce qui montre également que la gouvernance de la sécurité évolue de l’autodiscipline des entreprises vers des arrangements institutionnels aux niveaux national et multilatéral : il ne suffit plus de s’appuyer uniquement sur l’équipe de sécurité au sein de l’entreprise, et un mécanisme de coordination au niveau national est nécessaire. La question de savoir si ce nom commun peut être transformé en politiques spécifiques ou en mesures d'autoréglementation industrielle est une variable clé qui doit être surveillée en permanence à l'avenir ; Sous la pression concurrentielle du « développement d'abord », il n'existe toujours pas de réponse toute faite quant à la manière de trouver un débouché institutionnel à la « prudence ».

Plusieurs orientations à suivre dans le futur :

1. Mise en œuvre politique de la lettre conjointe : indique si le Congrès américain ou les agences de réglementation promouvront des mesures législatives ou administratives en conséquence.
2. Portée et poids des signataires : La taille et le niveau de la liste commune déterminent l'influence réelle de cette action.
3. Réponse interne de l'entreprise : information indiquant si les responsables d'OpenAI, d'Anthropic et de Google répondront positivement aux demandes des employés.
4. Promotion de la coopération internationale : le mécanisme de coordination de la sécurité de l'IA au niveau multilatéral en sera-t-il ainsi accéléré ?