OpenAI ha reso disponibili due nuovi strumenti AI open source progettati per aiutare le aziende a creare regole personalizzate per controllare i contenuti generati dai modelli. Tuttavia, esperti avvertono che la trasparenza potrebbe consentire agli attaccanti di studiare le difese e sviluppare metodi per superarle, generando un falso senso di sicurezza.
OpenAI rilascia strumenti open source per la sicurezza AI
