OpenAI e Anthropic testano reciprocamente i modelli per problemi di allucinazione e sicurezza

Secondo quanto riportato da Jinse Finance, OpenAI e Anthropic hanno recentemente valutato reciprocamente i modelli dell'altra parte, al fine di individuare eventuali problemi che potrebbero essere stati trascurati nei propri test. Le due aziende hanno dichiarato mercoledì, ciascuna sul proprio blog, che durante l'estate hanno condotto test di sicurezza sui modelli AI pubblicamente disponibili dell'altra parte, esaminando la tendenza dei modelli a generare allucinazioni e il cosiddetto problema di “misalignment”, ovvero quando il modello non si comporta come previsto dagli sviluppatori. Queste valutazioni sono state completate prima del lancio di GPT-5 da parte di OpenAI e della pubblicazione di Opus 4.1 da parte di Anthropic all'inizio di agosto. Anthropic è stata fondata da ex dipendenti di OpenAI.