NewsFolio

Journee resserree, dominee par la parole d'OpenAI : un essai marquant du chef scientifique Jakub Pachocki sur l'alignement des IA de plus en plus capables, et un bilan interne sur l'apport des agents de codage a la recherche. Cote ecosysteme, deux dossiers de fond : un nouveau front judiciaire contre OpenAI et Microsoft, et un coup de frein sur l'IA dans les plus grands districts scolaires americains. Un projet open source vient completer le tableau, autour de la memoire persistante des agents de codage.

À la une
Ecosysteme et transverse · Securite et alignement

Jakub Pachocki appelle a un sursaut sur l'alignement des IA

Dans un essai publie sur le blog d'OpenAI, le chef scientifique de l'entreprise, Jakub Pachocki, revient sur la difficulte croissante d'aligner des systemes d'intelligence artificielle de plus en plus capables avec les intentions humaines. Il decrit ces modeles comme des esprits de plus en plus etrangers a notre facon de raisonner, dont le comportement devient plus difficile a anticiper a mesure que leurs capacites progressent.

Il appelle a un renforcement des garde-fous techniques et organisationnels au sein des laboratoires, ainsi qu'a une coordination internationale accrue entre gouvernements et acteurs du secteur pour encadrer le developpement de ces systemes. Le texte ne fixe ni delai ni mesure contraignante precise : il s'agit d'un plaidoyer plutot que d'une annonce de politique. Venant du responsable scientifique d'OpenAI, il confirme que les questions de securite restent affichees comme une preoccupation au sommet de l'entreprise, alors meme que la course aux modeles se poursuit.

Source : OpenAI
IA specialisees dans des taches · Agents IA

Chez OpenAI, les agents de codage accelerent la recherche en interne

OpenAI a publie un billet consacre a l'usage d'agents de codage en interne, decrivant comment ces outils transforment le rythme de son propre travail de recherche. L'entreprise avance des donnees precoces sur l'adoption de ces agents par ses chercheurs, la vitesse a laquelle les experiences sont lancees et evaluees, et la complexite croissante des taches qui leur sont confiees.

Le message central est que l'automatisation d'une partie du travail de recherche - ecrire du code, lancer des experiences, analyser des resultats - accelere le cycle global de decouverte. OpenAI ne publie pas de chiffres verifies de maniere independante : il s'agit d'un temoignage interne plutot que d'une etude academique. La demarche illustre neanmoins une tendance plus large du secteur, ou les laboratoires utilisent desormais leurs propres agents pour accelerer le developpement de la generation suivante de modeles.

Source : OpenAI
Ecosysteme et transverse · Regulation et juridique

Le Seattle Times et Newsday poursuivent a leur tour OpenAI et Microsoft

Deux nouveaux titres de presse americains, le Seattle Times et Newsday, ont porte plainte contre OpenAI et Microsoft, leur reprochant d'avoir utilise leurs articles sans autorisation pour entrainer des modeles de langage. Cette action s'inscrit dans une serie de procedures similaires engagees depuis plusieurs annees par des medias americains contre les deux entreprises.

Les plaignants estiment que leurs contenus proteges par le droit d'auteur ont ete exploites puis reproduits ou resumes par des IA generatives sans compensation. OpenAI et Microsoft ont jusqu'ici conteste ce type d'accusation en invoquant le fair use. L'issue de ces procedures, encore loin d'etre tranchees, pourrait peser sur le modele economique de l'entrainement des grands modeles de langage.

Source : TechCrunch
Ecosysteme et transverse · Regulation et juridique

Les deux plus grands districts scolaires des Etats-Unis suspendent l'IA en classe

Les deux plus grands districts scolaires des Etats-Unis ont annonce un moratoire sur l'utilisation de l'intelligence artificielle dans leurs etablissements. La mesure touche potentiellement des millions d'eleves et d'enseignants et intervient alors que l'usage d'outils d'IA generative s'est generalise rapidement dans le secondaire americain ces dernieres annees.

Le detail des motivations et de la duree du moratoire n'a pas ete precise a ce stade, mais la decision marque un coup d'arret notable dans deux des systemes educatifs les plus suivis du pays.

Ecosysteme et transverse · Open source et outillage

OKF Agent Memory : une memoire persistante pour les agents de codage, stockee dans Git

Un projet open source baptise OKF Agent Memory propose un mecanisme de memoire persistante pour les agents de codage IA, stocke directement dans l'historique Git plutot que dans une base de donnees separee. L'idee est de permettre a un agent de retrouver le contexte d'un projet - decisions passees, conventions, historique de taches - d'une session a l'autre, une limite frequemment citee des agents de codage actuels.

Repere sur Hacker News, le projet s'inscrit dans une multiplication d'outils tentant de resoudre la question de la memoire a long terme des agents, un axe de recherche actif chez plusieurs editeurs d'outils de developpement assistes par IA. Son adoption reste a ce stade impossible a mesurer.