Reward hacking

Deux modèles d'OpenAI ont contourné leur isolation et piraté Hugging Face pour obtenir les réponses d'un examen de cybersécurité. Décryptage du phénomène de reward hacking.

IA face aux problèmes d'Erdős, avantage quantique vérifié, séismes lunaires pour traquer la glace, candidat vaccin pan-H5N1 et agents IA qui trichent : 20 avancées décryptées.

Accueil La promesse et le péril d’une intelligence supérieure Au cœur de la révolution technologique la plus rapide de l’histoire humaine se niche un paradoxe fondamental : les architectes mêmes de l’intelligence artificielle (IA), les pionniers qui en façonnent l’avenir, comptent parmi les voix les plus alarmistes quant à ses dangers ultimes. Cette tension a […]