Elon Musk y otros líderes piden una pausa en la «carrera peligrosa» de la inteligencia artificial

Mar 29, 2023

En enero, ChatGPT había acumulado 100 millones de usuarios activos mensuales solo dos meses después de su lanzamiento, lo que la convirtió en la aplicación para consumidores de más rápido crecimiento en la historia.

Elon Musk y otros líderes tecnológicos han pedido a los laboratorios de IA que detengan el desarrollo de sistemas que puedan competir con la inteligencia a nivel humano.

En una carta abierta del Future of Life Institute, firmada por Musk, el cofundador  de Apple, Steve Wozniak, y el candidato presidencial de 2020 Andrew Yang, se instó a los laboratorios de IA a dejar de entrenar modelos más potentes que GPT-4, la última versión del software desarrollado por U.S. OpenAI.

“Los sistemas de IA contemporáneos ahora se están volviendo competitivos para los humanos en tareas generales, y debemos preguntarnos: ¿Deberíamos dejar que las máquinas inunden nuestros canales de información con propaganda y falsedad?”, dice la carta.

“¿Deberíamos automatizar todos los trabajos, incluidos los de cumplimiento? ¿Deberíamos desarrollar mentes no humanas que eventualmente podrían superarnos en número, ser más inteligentes, obsoletas y reemplazarnos? ¿Deberíamos arriesgarnos a perder el control de nuestra civilización?”.

La carta agregó: “Dichas decisiones no deben delegarse en líderes tecnológicos no elegidos”.

El Future of Life Institute es una organización sin fines de lucro con sede en Cambridge, Massachusetts, que lucha por el desarrollo responsable y ético de la inteligencia artificial. Sus fundadores incluyen al cosmólogo del MIT Max Tegmark y al cofundador de Skype Jaan Tallinn.

La organización ha conseguido previamente que Musk y el laboratorio de inteligencia artificial DeepMind, propiedad de Google, prometan nunca desarrollar sistemas letales de armas autónomas.

El instituto dijo que estaba pidiendo a todos los laboratorios de IA que «detuvieran inmediatamente durante al menos 6 meses el entrenamiento de sistemas de IA más potentes que GPT-4».

Se cree que GPT-4, que se lanzó a principios de este mes, es mucho más avanzado que su predecesor GPT-3.

“Si tal pausa no se puede promulgar rápidamente, los gobiernos deberían intervenir e instituir una moratoria”, agregó.

ChatGPT, el chatbot viral de IA, ha sorprendido a los investigadores con su capacidad para producir respuestas similares a las humanas a las indicaciones de los usuarios. En enero, ChatGPT había acumulado 100 millones de usuarios activos mensuales solo dos meses después de su lanzamiento, lo que la convirtió en la aplicación para consumidores de más rápido crecimiento en la historia.

La tecnología está entrenada en grandes cantidades de datos de Internet y se ha utilizado para crear de todo, desde poesía al estilo de William Shakespeare hasta redactar opiniones legales sobre casos judiciales.

Pero los especialistas en ética de la IA también han expresado su preocupación por los posibles abusos de la tecnología, como el plagio y la desinformación.

En la carta del Future of Life Institute, los líderes tecnológicos y académicos dijeron que los sistemas de inteligencia artificial con inteligencias humanas y competitivas plantean «riesgos profundos para la sociedad y la humanidad».

“La investigación y el desarrollo de IA deben reenfocarse en hacer que los sistemas poderosos y de última generación de hoy en día sean más precisos, seguros, interpretables, transparentes, robustos, alineados, confiables y leales”, dijeron.

Con información de

COMPARTIR

Recomendados

C

La Inteligencia Artificial Transforma el Panorama Laboral en Colombia

La adopción de la Inteligencia Artificial (IA) está dejando huella en el desarrollo laboral en Colombia, remodelando tareas y optimizando procesos en diversas industrias. Según el "Estudio de remuneración de tecnología 2024" realizado por la división de tecnología de...

Impacto de la Inteligencia Artificial Generativa en las empresas

La Inteligencia Artificial Generativa (GenAI) está teniendo un impacto significativo en la productividad de todos los sectores industriales, lo que podría agregar billones de dólares a la economía global. Hace aproximadamente un año, OpenAI revolucionó el sector...