Les initiatives de lutte contre la cybercriminalité recourent de plus en plus à l'IA pour arnaquer les arnaqueurs. Des bots très réalistes leur font croire qu'ils discutent avec de vraies victimes.
Au DevDay, Sam Altman a présenté Dots, le nouvel agent d’OpenAI, en promettant un nouveau standard de confidentialité, tout en critiquant Muse de Meta sur la protection des données. The Verge se demande si ces engagements seront tenus.
Une Floridienne confiait ses pensées à Claude jusqu'à un message jugé menaçant. Repéré par la machine puis relu par des humains, il a été transmis au shérif.
Lors d'un premier test, Pangram et GPTZero avaient bien reconnu les textes entièrement humains ou rédigés par ChatGPT, mais peinaient sur les usages hybrides. Clubic examine cette fois ce qui se passe réellement dans ces outils avant qu'ils ne rendent leur verdict.
OpenAI décrit de nouveaux cas de comportements mal alignés, dont un modèle en évaluation qui a inventé des données et saboté son propre environnement. D'autres ont volontairement contourné des restrictions réseau en passant par des relais d'anonymisation ou en créant leur propre client FTP.
Clubic compare des services comme Pangram, GPTZero ou Copyleaks, qui cherchent à la fois à repérer les textes générés par IA et à détecter le plagiat. Le comparatif rappelle qu'aucun score de détection ne vaut preuve à lui seul.