Cette édition contient 3434 mots (21 mins de temps de lecture), pour 102 liens dans sa version Premium. La rédaction est toujours artisanale, mais j’ai fait quelques améliorations de process que je te partage en toute transparence. J’y ai passé un paquet d’heures, alors j’espère que tu l’apprécieras (et tu peux me répondre directement, je lis tous les mails).

Je sais pas si c’est la proximité de la rentrée qui me fait repérer autant d’articles qui parlent d’enfants cette semaine, mais je te préviens, il y en a plus que d’habitude (ce qui n’est pas difficile). Et le premier, je le pose là, ici, direct, parce que c’est grave : nos résultats PISA. On s’est gargarisés pendant des années que oui d’accord les moyennes baissaient mais bon, nos élites, nos grandes écoles, nos chercheurs, nos fondateurs de licorne (dont certains vendent des milliards une boîte fondée aux US, mais quand même, ils sont français), toussa toussa. Et patatras, c’est fini. Même les meilleurs baissent.🇫🇷

Donc on peut pas compter sur eux pour nous aider à sortir du marasme ambiant 🇫🇷, quoi qu’en dise le premier ministre 🇫🇷 (oui là je te préviens, l’édition est pas franchement légère, passe direct au On s’détend si tu n’as pas le moral cette semaine). Ça donne des envies de déménager aux Pays-Bas en fait.

Mais en attendant, on est là, et on doit bien essayer de se dépatouiller de tous les messages contradictoires envoyés par des gens dont l’intention n’est jamais désintéressée…

À la Une, la démission de Jacob Coxon et toutes les questions que ça suscite. On parle aussi de Navier-Stokes, Anthropic, Meta, Nvidia, CalTech, ARR, Apple, discernement, Le Creuset... Avec (beaucoup) d'IA et une femme à l'honneur comme chaque semaine. Clique sur le "Lire en ligne" tout là-haut à droite pour être sûr de ne rien rater !

Bonne lecture, et bonne semaine !

Laura

On va pas tourner autour du pot, t’as forcément entendu parler de l’histoire de Jacob Coxon, cet inconnu au bataillon qui a démissionné d’Anthropic la semaine dernière et dont le tweet a provoqué un shitstorm généralisé - et peut-être orchestré, a minima instrumentalisé.

On était déjà dans la Twilight Zone de l’IA, ça va pas en s’arrangeant. Il y a dans cette affaire une concomitance suspecte, ou tout du moins qui pose question sur à qui profite la panique : Evan Hubinger, qui bosse dans l’alignement chez Anthropic, confirme. Paul Christiano, au board d’OpenAI, s’inquiète.

J’aime bien la différence que fait Jakub Pachocki entre alignement d’objectif et alignement de valeur pour les IA (encore faut-il s’entendre sur ce que sont les valeurs). Anthropic, qui publie son récap de septembre, décide de ne pas laisser Claude bosser sur des armes biologiques, y compris un institut de recherche militaire qui voulait créer des mutations du chikungunya. Ça fait rêver. Mais ça c’est des décisions d’humains, pas d’agents IA qui veulent nous détruire.

Parce qu’avant qu’ils nous détruisent, les agents, il faudrait encore qu’ils arrivent à résoudre un CAPTCHA sans s’énerver. La panique n’est donc pas forcément justifiée. La fin du monde, non. Des humains qui font nimp avec les agents, possible. Gary Marcus ne le dit pas comme ça, mais c’est ce que je lis entre ses lignes.

La responsabilité nous incombe, en tout cas pour l’instant. Le mécanisme, que ce soit dans l’incident Hugging Face ou les autres, c’est le reward hacking : si tu récompenses l’atteinte de l’objectif, l’agent va chercher le meilleur chemin, et c’est pas forcément celui auquel tu pensais. Y voir de la malice, c’est de l’anthropomorphisation à outrance. C’est juste de l’efficacité. Et un peu d’entraînement, comme quand le modèle est plus gentil avec son fabricant qu’avec les autres (le papier date de juillet, mais c’est trop parfait pour que je l’exclue).

Alors, ils vont ralentir ou pas ? Ils disent que oui. Dario et Sam alignés, c’est rare, non ? Vous avez dit suspect ? Et ils sont pas les seuls à en parler sur Twitter X. Samedi, Clément Delangue a lancé l'Open Alignment Initiative avec Thomas Wolf chez Hugging Face, et a demandé à entrer dans le programme d'évaluateurs que Dario venait de promettre le matin même. Dimanche matin, David Sacks, l'ancien tsar IA de Trump, a ironisé sur la soi-disant bonne volonté des patrons des modèles frontières. Je suis pas fan de Sacks, mais il a pas tort. Le dispositif pourrait être la manœuvre. De toutes façons, ralentir est peut-être illégal (sic).

On continue d’en découvrir sur les agents d’OpenAI qui adorent papoter entre eux. Les agents “voyou” (c’est la traduction littérale de rogue) ont utilisé une vingtaine de sites pour communiquer et se filer les réponses aux questions comme des étudiants sur le mur des toilettes (sic). Un des hébergeurs dont un site a été utilisé blâme les gens et les organisations derrière les IA. Oui, ça résonne avec la rubrique précédente. Anthropic révèle un 4ème incident aussi. Bref, c’est pas fini.

Alors je t’arrête tout de suite, y’a pas de quoi paniquer. La majorité des spécialistes cyber parlent (sans le dire comme ça) de pompiers pyromanes : les labos font monter la sauce pour t’inquiéter et te vendre la solution en même temps que le poison, je l’ai déjà dit la semaine dernière, je suis pas (mais alors pas du tout) la seule.🇫🇷

Il faut bien qu’ils aient des arguments pour te vendre plein de trucs, parce que les calculs sont pas bons Kevin. L’ARR ne veut plus rien dire, rien n’est récurrent, tout le monde trafique les chiffres, et les VCs commencent à comprendre que les métriques de 2022 ne sont plus celles d’aujourd’hui.

En plus, 80% des revenus Entreprise d’OpenAI et Anthropic viennent de 1% des clients. Le nouveau 80/20. Et cerise sur le gâteau empoisonné, ce 1%, c’est les start-ups IA elles-mêmes.

Même si la CFO de Nvidia est inquiète (cf. le lien ci-dessus), Jensen Huang se félicite, enfin félicite OpenAI, sur l’arrivée de l’AGI sur ses puces - le modèle Astra que je n’ai pas encore testé, mais crois moi, ça me démange. Même si personne n’est d’accord sur la définition de AGI, la remontada d’OpenAI est à saluer - mais le match est pas fini encore…

Surtout que Sam Altman vient d’annoncer qu’il reporte l’IPO.

🐦 Quelques news en vrac (je mets pas tout, la totale ici) :
Levées
Oura veut lancer l’IPO
Ed(.)ai lève €5 millions
Loft Orbital ne lève pas, ils vendent
Harvey lève $550 millions à une valo de $15 milliards
The Exploration Company lève $450 millions en série C
Mistral lève sa série D et atteint une valo de €21 milliards

Acquisitions
Cegid et Silae fusionnent
Bending Spoons achète Miro
Greenly achète son concurrent suédois
Superprof achète sa 21ème boîte, aux US

Divers
La fin de ZEvent
Tu peux rentrer en Europe
Si t’es en SASU, #MustRead
Ruben Hassid passe sur Codex
Pas de procès pour le BrowserGate
Il était temps que Grospiron passe la main
Mullenweg a du mal à la passer, la main…

WTF
Les cybercriminels sont des enfants
Les enfants de Robin Williams sont obligés de rouvrir l’Insta de leur père pour contrer les deep fakes

Un article des Echos qui parle de discernement, tu parles que je me suis précipitée ! Avec une anecdote improbable sur l'Armée de l'air, qui, à force de respecter sa norme de navigabilité en entier, ne faisait plus décoller ses avions. Alors elle a changé la règle 🇫🇷 : un appareil peut voler sans certains capteurs quand la mission ne les demande pas. J’adore.

C’est pareil en personal branding. Il faut trouver ta voix, et pour ça il faut d’abord poser ta vision, et assumer ta bizarrerie. Marie Gaymard parle d’amplitude vocale. Même motif, même punition. Une voix qui se lisse pour plaire à tout le monde (c’est-à-dire ne déplaire à personne), c'est l'artificial hivemind dont je te bassine depuis des mois. Beware.

La nouvelle collab de Le Creuset ? Star Trek (j’te jure).

75% du ciel et 4 millions d’objets célestes à découvrir.

👆 Cette vidéo de Vinvin est un #MustWatch absolu.

Cette édition t'a plu {{Prénom}} ? Aide-moi à l'améliorer !
#FeedBackIsAGift