Aseguraron que el sistema cuenta con evaluaciones estrictas para rechazar y no generar contenido relacionado con comportamiento ilícito, contenido sexual explícito, discurso de odio y violencia gráfica.
Mayor respuesta a fraude, autolesiones y contenido violento
Como parte del lanzamiento, OpenAI publicó los resultados de distintas evaluaciones de seguridad realizadas con grabaciones reales de usuarios y otros escenarios creados artificialmente diseñados para poner a prueba situaciones consideradas de alto riesgo.
En ambos casos, la empresa comparó el desempeño de GPT-Live con los modelos que actualmente impulsan el modo de voz avanzado de ChatGPT.
De acuerdo con los resultados, GPT-Live-1 obtuvo mejores puntuaciones en categorías como conductas ilícitas, autolesiones, protección de datos personales, odio, violencia gráfica y contenido sexual, mientras que en aspectos relacionados con dependencia emocional y contenido sexual las diferencias frente a los modelos anteriores fueron mínimas y, según OpenAI, no alcanzaron significancia estadística.
En las pruebas con escenarios artificiales, los nuevos modelos también mostraron avances en todas las categorías evaluadas, incluyendo salud mental, manipulación emocional y fraude.
A pesar de que no representan el comportamiento cotidiano con los usuarios, OpenAI considera que los resultados muestran los protocolos de seguridad que se implementan en la modalidad de voz y una mejora respecto a generaciones anteriores.
¿Es segura la nueva voz de ChatGPT?
Además de las pruebas de seguridad, OpenAI sometió GPT-Live-1 y GPT-Live-1 mini a un proceso en el que especialistas internos y externos intentaron provocar comportamientos inseguros en conversaciones relacionadas con suplantación de identidad, manipulación, fraudes, autolesiones, dependencia emocional, reconocimiento de voces y otros escenarios considerados sensibles.
(JohannesBluemel Photography/Getty Images)
OpenAI concluyó que ninguno de los nuevos modelos puede clasificarse como de riesgo alto en áreas como amenazas biológicas, ciberseguridad o auto-mejora de inteligencia artificial.
