L'informaticien théoricien Scott Aaronson affirme, en citant ses sources, que des laboratoires d'intelligence artificielle ont discrètement commencé à tester si leurs modèles peuvent casser des protocoles de chiffrement importants. Il a publié cette affirmation sur son blog, Shtetl-Optimized, relayé par Techmeme.
Le chiffrement protège tout, des virements bancaires aux messages privés. Si un modèle d'IA parvenait à casser des protocoles largement utilisés, la sécurité de tout l'internet serait en jeu. L'avertissement d'Aaronson compte parce qu'il est une voix crédible en informatique théorique, et non un message anonyme sur un forum.
L'avertissement de Scott Aaronson sur le chiffrement
L'affirmation sur le chiffrement est apparue dans un long article dominé par une autre actualité : la publication par OpenAI de 372 résultats mathématiques, dont une preuve de la conjecture des jeux uniques de Subhash Khot. Aaronson écrit que ces preuves semblent accompagnées d'un certificat Lean, mais qu'aucun humain n'en a encore compris la quasi-totalité.
Son épouse, la théoricienne de la complexité Dana Moshkovitz, a travaillé toute sa carrière à tenter de démontrer la conjecture des jeux uniques. Dans des messages qu'Aaronson a partagés, elle décrit la preuve de l'IA comme bizarre, mal écrite et impossible à lire sans l'aide de l'IA, inventant selon elle un code entièrement nouveau avec un test de bruit.
Percées mathématiques de l'IA et deux modèles de publication
Aaronson indique que le modèle à l'origine des résultats mathématiques n'était pas un système spécial brûlant des millions de dollars de calcul, mais simplement le dernier modèle interne d'OpenAI. Il pourrait atteindre les clients payants de ChatGPT d'ici environ deux mois, selon le comité de sûreté d'OpenAI.
Il oppose deux façons de publier les percées de l'IA. OpenAI a mis en ligne ses solutions brutes, déclenchant une course des humains pour les comprendre, tandis qu'Anthropic a offert à deux chercheurs la possibilité d'en écrire une version digérée en échange d'une compensation. Aaronson a demandé à ses lecteurs quel modèle ils préféraient, sans en soutenir aucun.
