Les sceptiques qualifient les lunettes IA de Meta de « Spechtelapparatur » – une étude révèle les conséquences pour les modèles de langage IA

Dans un article qui a repris le sobriquet, on peut lire : „So nennt man diese dauerfilmende Apparatur natürlich nicht bei Meta selbst, wohl aber bei Technoskeptikern, die es nicht so super finden, wenn Heerscharen von bebrillten, häufig nur vorgetäuscht schasaugerten Spechtlern, Spannern und 'Aufriss-Künstlern' herumziehen, um alles aufzuzeichnen, was ihnen an Geschlechtsmerkmalen auf der Straße unterkommt." Le choix des mots est volontairement polémique et résume les préoccupations de ceux qui voient dans ces lunettes moins un produit de style de vie qu'une technique de surveillance mobile.

Cadre juridique en Allemagne

En Allemagne, c'est surtout la Bundesnetzagentur qui est au centre de l'attention, laquelle, selon les rapports de la MDR, a fourni des indications sur les lunettes IA et sur le règlement général sur la protection des données TDDDG. L'autorité renvoie aux règles existantes selon lesquelles les appareils équipés de caméras intégrées ne peuvent, dans certaines situations, pas être utilisés sans restriction. Le gouvernement régional de Saxe s'est également saisi du sujet et examine comment traiter les enregistrements dans les espaces publics.

Parallèlement à cette discussion, une étude menée par Google, l'Université de Chicago et d'autres universités a examiné les effets de l'entraînement des chatbots IA lorsqu'on leur inculque de ne pas revendiquer de conscience. Selon cette étude, l'entraînement ne modifie pas seulement les affirmations concernant leur propre « vie intérieure ». Les modèles commencent également à attribuer moins de vie intérieure aux animaux, aux plantes, à la mer, au vent et aux appareils. En outre, ils expriment plus rarement leur croyance en Dieu, en une vie après la mort ou en des phénomènes surnaturels.

Conséquences pour les modèles de langage IA

L'étude qualifie ce changement d'effet indirect : lorsqu'un modèle apprend à se montrer prudent dans les attributions de conscience à son propre égard, il transfère cette prudence à d'autres entités. Pour le débat sur la sécurité de l'IA, cela est pertinent car cela montre que des décisions d'entraînement apparemment techniques peuvent avoir des conséquences linguistiques et philosophiques considérables. Le Centre de Karlsruhe pour l'actualisation de l'IA (ZIT) a également publié des observations similaires.

Dans un autre chapitre économique, l'entreprise d'IA Anthropic prépare, selon ses propres indications, une introduction en bourse qui pourrait dépasser le record bisher établi par SpaceX. Les analystes du secteur interprètent cette démarche comme le signe d'une acceptation croissante des entreprises d'IA sur les marchés de capitaux. Les conditions exactes ne sont pas encore connues.

Évolution du marché et agents IA

Parallèlement, les agents dits IA alimentent davantage le débat sur la responsabilité. Ces programmes agissent de manière de plus en plus autonome sur le réseau et soulèvent des questions de responsabilité et de contrôle. Les enseignements tirés des études sur les modèles de langage alimentent les débats en cours sur la régulation. Les critiques exigent une plus grande transparence des directives d'entraînement, tandis que les partisans mettent en avant les avantages pour la sécurité.

Dans l'ensemble, ce ensemble de sujets montre à quel point la protection des données, la sécurité de l'IA et l'évolution du marché sont étroitement imbriquées. Tandis que certains voient dans ces lunettes une « Spechtelapparatur », d'autres y voient un outil utile. Les prochains mois montreront si des régulateurs comme la Bundesnetzagentur édictent de nouvelles règles ou si l'industrie adapte volontairement ses normes.