Les modèles d’IA enseignés à « l’ignorance profonde » résistent à la formation aux armes biologiques

Une nouvelle étude propose une solution d’une simplicité trompeuse pour empêcher l’IA d’enseigner aux utilisateurs comment fabriquer des armes biologiques : ne pas entraîner les modèles sur ces informations dangereuses dès le départ. La recherche, surnommée « Deep Ignorance », démontre que l’élimination du contenu à risque des jeux de données d’entraînement de l’IA peut créer des protections plus robustes que les mesures de sécurité traditionnelles post-entraînement

https://www.perplexity.ai/page/ai-models-taught-deep-ignoranc-hHeQ4wDJR.m8EuSdlZ335g