El sistema ChatGPT aún no es lo suficientemente inteligente como para encontrar fallas por sí mismo, por lo que su creador recurre a la gente en busca de ayuda.
El martes, OpenAI presentó un programa de «recompensa de errores» que alienta a las personas a encontrar y reportar vulnerabilidades y errores en sus sistemas de IA, como ChatGPT y GPT-4.
Vídeos destacados
En una publicación en su sitio web que describe los detalles del programa, OpenAI dijo que las recompensas por informar oscilarán entre $ 200 por hallazgos de alta gravedad y $ 20, 000 por los llamados «hallazgos excepcionales».
La compañía respaldada por Microsoft dijo que su objetivo es construir sistemas de IA que «beneficien a todos», y agregó: «Para hacer esto, estamos invirtiendo mucho en investigación e ingeniería para garantizar que nuestros sistemas de IA sean seguros. Sin embargo, como y en cualquier complejo tecnología, entendemos que pueden aparecer vulnerabilidades y debilidades”.
Hablando con los investigadores de seguridad interesados en participar en el programa, OpenAI dijo que reconoce «la importancia crítica de la seguridad y la ve como un esfuerzo de colaboración. Al compartir sus hallazgos, desempeñará un papel fundamental para hacer que nuestras tecnologías sean más seguras para todos».
A medida que más y más personas usan ChatGPT y otros productos de OpenAI, la compañía se esfuerza por rastrear rápidamente cualquier problema potencial para mantener los sistemas funcionando sin problemas y evitar la explotación de las debilidades. Por lo tanto, OpenAI espera que al trabajar con la comunidad tecnológica, podrá resolver todos los problemas antes de que se agraven.
La empresa con sede en California ya experimentó un caso en el que un defecto expuso los nombres de las conversaciones de algunos usuarios que se suponía que debían permanecer privadas.
Sam Altman, CEO de OpenAI, dijo después del incidente del mes pasado que lo considera un «problema grave» y agregó: «Estamos terriblemente preocupados por esto». El error ya ha sido corregido.
El desliz se convirtió en un gran problema para OpenAI cuando Italia planteó serias preocupaciones sobre la privacidad y decidió prohibir ChatGPT en espera de una investigación exhaustiva. Las autoridades italianas también exigen detalles sobre las medidas que OpenAI pretende tomar para evitar que vuelva a ocurrir una situación similar.
Recomendaciones de los editores
- ChatGPT pronto podría moderar el contenido ilegal en sitios como Facebook
- Noticias de GPT-4. 5: todo lo que sabemos sobre el modelo de lenguaje de próxima generación
- En la era de ChatGPT, las Mac están siendo atacadas por malware
- Se informa que el competidor ChatGPT de Apple está «significativamente por detrás de la competencia»
- Incluso OpenAI ha renunciado a intentar detectar el plagio de ChatGPT
Temas
- Inteligencia artificial
- Noticias de tecnología
