Sobre de icono de correo electrónico. Indica la capacidad de enviar un correo electrónico.
Compartir icono Una flecha curva que apunta hacia la derecha.
Icono de Twitter Un pájaro estilizado con la boca abierta tuiteando.
Twitter Icono de LinkedIn La palabra «en».
Icono de Fliboard de LinkedIn estilizado F.
Flipboard Facebook Icono Letra F.
Sobre de icono de correo electrónico de Facebook. Indica que se puede enviar un correo electrónico.
Icono de enlace de correo electrónico Una imagen de un enlace de cadena. Simboliza la URL de un sitio web.
Canjear ahora
- Algunos expertos en IA afirman que nos precipitamos hacia la destrucción de la humanidad.
- Algunas de estas declaraciones son vagas y los expertos no están de acuerdo sobre cuáles son exactamente los principales riesgos.
- Estas son algunas de las amenazas potenciales que plantea la IA avanzada y su probabilidad.
Insider recomienda despertarse con Morning Brew, un boletín diario.
Cargando Algo se está cargando.
Gracias por registrarte!
Accede a tus temas favoritos en un feed personalizado mientras estás en movimiento.
Así consta en la última advertencia emitida por el Centro de Seguridad de la Inteligencia Artificial (CAIS). Esta declaración fue respaldada por los jugadores más importantes de la industria de la IA, incluido Sam Altman, jefe de OpenAI, que creó ChatGPT.
Esta advertencia es una de las muchas que se han emitido en los últimos meses. Algunos de los primeros creadores de la tecnología dijeron que nos dirigimos hacia la muerte de la humanidad, otros que se necesita una regulación urgente.
Algunas de estas declaraciones han llevado a la gente a cuestionar el significado de declaraciones cada vez más hiperbólicas.
David Krueger, experto en IA y profesor asistente de la Universidad de Cambridge, dice que si bien la gente quiere escenarios concretos en lo que respecta a los peligros existenciales de la IA, todavía es difícil señalarlos con cierto grado de certeza.
«No estoy preocupado porque hay una amenaza inmediata en el sentido de que puedo ver de qué se trata. Pero creo que no tenemos mucho tiempo para prepararnos para posibles amenazas futuras», dijo a Insider. .
Con eso en mente, estas son algunas de las posibles preocupaciones de los expertos.
1. Capturar IA
Uno de los riesgos citados con más frecuencia es que la IA se salga del control de su creador.
Bajo la inteligencia artificial general (Jion) se entiende como AI, que en su nivel de desarrollo no es inferior a una persona o lo supera para resolver una amplia gama de problemas. Los sistemas de inteligencia artificial modernos no son razonables, pero se crean de tal manera que son como una persona. Por ejemplo, se crea el sistema CHATGPT para que los usuarios sientan que se están comunicando con otra persona, dice Jenis Wong desde el Instituto Alan Turing.
Los expertos no están de acuerdo con cómo determinar el AGI, pero generalmente están de acuerdo en que esta tecnología potencial es un peligro para la humanidad, que debe ser estudiada y regulada, Aaron IOC de Insider.
Según Kruger, el ejemplo más obvio de tales peligros es la competencia militar entre países.»La competencia militar con armas autónomas, sistemas que pueden afectar el mundo físico en su diseño y daño, parece más obvio cómo tales sistemas pueden conducir a la muerte de una gran cantidad de personas», dijo.
«El guión de una guerra total que usa IA en el futuro, cuando tenemos sistemas avanzados que son más inteligentes que las personas, me parece muy probable que los sistemas se salgan de control y, como resultado, puedan matar a todos», agregó.
2. La IA causa desempleo masivo
Una opinión cada vez más generalizada es que AI plantea una amenaza para algunos trabajos.
Abhishki Gupta, el fundador del Instituto de Ética de Montreal, cree que la perspectiva de la pérdida de empleos bajo la influencia de la IA es la amenaza existencial más «realista, directa y posiblemente urgente».
«Necesitamos prestar atención a la falta de un objetivo que las personas sentirán durante la pérdida de trabajo en masa», dijo en una entrevista con Insider.»La parte existencial de este problema es lo que la gente hará y dónde buscarán su objetivo?»
«Esto no significa que el trabajo lo sea todo, pero constituye una parte bastante grande de nuestra vida», agregó.
Las empresas comienzan a declarar abiertamente sus planes para el uso de IA. Por ejemplo, el director general de IBM, Arvind Krishna, anunció recientemente que la compañía ralentizará el conjunto de empleados para puestos que pueden ser reemplazados por inteligencia artificial.
«Hace cuatro o cinco años, nadie podía hacer algo como esto y tomarlo en serio», dijo Gupta sobre IBM.
3. El sesgo de AI
Si se utilizan sistemas de inteligencia artificial para tomar decisiones públicas más amplias, entonces el sesgo sistemático puede ser un riesgo grave, dijeron expertos internos.
Ya hay varios ejemplos de sesgo en sistemas generativos de IA, incluidas las primeras versiones de ChatGPT. Algunas respuestas impactantes de chatbot se pueden encontrar aquí. Operai agregó cercas adicionales para ayudar a ChatGPT a evitar las respuestas de los problemas de los usuarios preguntando al sistema sobre contenido ofensivo.
Los modelos generativos de imágenes de IA pueden crear estereotipos dañinos, como lo muestran las pruebas realizadas por Insider a principios de este año.
Según Gupta, si en los sistemas de inteligencia artificial se utilizan para tomar decisiones reales, por ejemplo, para la aprobación de beneficios sociales, se encontrarán casos de sesgo, esto puede tener graves consecuencias.
Según Vong, los datos de enseñanza a menudo se basan principalmente en los datos del lenguaje inglés, y el financiamiento de la capacitación de otros modelos de IA en otros idiomas es limitado.
«Por lo tanto, muchas personas serán excluidas del proceso de aprendizaje, o algunos idiomas se aprenderán peor que otros idiomas», dijo.
