¿Debemos tenerle miedo a la inteligencia artificial y a los algoritmos?

Feb 14, 2023

Pixabay

La eclosión de la inteligencia artificial con herramientas como ChatGPT genera inseguridad, amenaza o incertidumbre. Provoca miedo al cambio y a perder el control sobre nuestro pensamiento y nuestras decisiones.

Los algoritmos están automatizando muchas acciones humanas y activan en nosotros respuestas de miedo, que no es otra cosa que una emoción primaria formada por algoritmos bioquímicos cuya función adaptativa es la protección. Resulta curioso que automatizar nos provoque una respuesta emocional que a su vez es un automatismo. Pero es que solemos temer a lo desconocido.

La eclosión de la inteligencia artificial con herramientas como ChatGPT genera inseguridad, amenaza o incertidumbre. Provoca miedo al cambio y a perder el control sobre nuestro pensamiento y nuestras decisiones.

¿Quién toma las decisiones?

Un primer antídoto para el miedo es el conocimiento. No es necesario ir a Silicon Valley para comprender el funcionamiento de los algoritmos o la inteligencia artificial. La explicación la tenemos dentro de nosotros mismos.

Si nos paramos a pensar cómo nuestro organismo se relaciona con la ingente cantidad de información que recibe de manera consciente e inconsciente, nos daremos cuenta de que no atendemos por igual a toda la información. El Homo Sapiens tiene una capacidad limitada de procesamiento. Hemos llegado hasta aquí por ser eficaces, no por ser perfectos o exhaustivos.

Pensamiento lento y rápido

Daniel Kahneman, premio Nobel de economía de 2002, explica en su best seller Thinking, fast and slow cómo en los humanos conviven dos sistemas de pensamiento. Por un lado, tenemos el sistema responsable de los procesos controlados. Implica mayor atención y consume más recursos cognitivos. Para comprender este artículo que estamos leyendo, por ejemplo, necesitamos de este sistema. Aprender un idioma, o a nadar, serían otros ejemplos.

De otro lado, tenemos el sistema automático. Está fuera del control voluntario y consume pocos recursos. Se activa cuando vemos a nuestro hijo o hija cruzar la calle sin mirar o cuando conducimos del trabajo a casa.

Uno parece que nos hace progresar o innovar y el otro nos salva en situaciones vitales o se encarga de tareas no relevantes para nosotros.

Ambos son necesarios y no funcionan por separado. Esta idea es clave y es una buena noticia. Por ejemplo, un nadador que necesita automatizar el estilo crol tendrá que practicar de manera deliberada los diferentes movimientos e integrarlos de manera consciente. Una práctica suficiente automatizará la técnica completa.

En una competición no estará pensando en si su codo derecho se eleva en la parte del recobro. En esas situaciones estresantes nos interesa que los automatismos tomen más control y dejar reposar el sistema atencional.

¿Cómo optamos?

El problema que puede darse cuando nos enfrentamos a los algoritmos informáticos es que no estamos distinguiendo bien quién tiene que tomar ciertas decisiones. Comparto un ejemplo para ilustrar esta idea.

Si al finalizar una actividad física, disponemos de un dispositivo electrónico que se atreve a indicar el tiempo de recuperación e incluso el grado de intensidad a seguir, estamos dejando que una serie de algoritmos informáticos nos idioticen.

Dejamos de prestar atención a las emociones que nuestro organismo genera y que son las que mejor nos pueden guiar para determinar el tipo de actividad que más nos conviene en cada momento. ¿Acaso estos algoritmos informáticos son más precisos que los algoritmos bioquímicos que la propia evolución se ha encargado de perfeccionar?

Uso de la imagen autorizado por www.correrunamaraton.com.

Los algoritmos procesan gran cantidad de datos, aunque muchas veces solamente sirven para distraernos o hacernos caer en la falsa sensación de control al disponer de más información. Además, no todos los datos valen por igual en todas las circunstancias. Las leyes de la estadística no son infalibles, sobre todo porque nuestro organismo y el medio cambian continuamente.

Pensamiento computacional

En el ámbito educativo, la búsqueda de soluciones a problemas o la toma de decisiones basadas en grandes cantidades de datos pueden empujarnos a aprovechar la ayuda de los algoritmos o el pensamiento ingenieril.

El conjunto de procesos mentales que ayudan a buscar soluciones automatizadas (con o sin tecnología) a determinados problemas se conoce como pensamiento computacional. Se trata de una de las novedades incorporadas –que no integradas– en el sistema educativo español con la llegada de la nueva Ley de Educación: la LOMLOE.

Es un indicador claro de la preocupación actual que existe en entender cómo funcionan las máquinas o el poder del pensamiento ingenieril y la industria tecnológica. Pero también es una oportunidad para entendernos a nosotros mismos.

Atajos mentales

Automatizar tareas nos genera grandes resultados y bienestar. Durante miles de años hemos utilizado una serie de atajos mentales (heurísticos) que simplifican problemas cognitivos complejos y los transforman en acciones sencillas. Si utilizamos heurísticos ahorramos energía. Se activan cuando no disponemos de tiempo, de información o de capacidad para procesar información. Es ahí cuando un algoritmo puede tomar el control y decidir por nosotros (y ofrecernos, por ejemplo, una noticia falsa).

Lo ideal es encontrar un término medio: no renunciar a los automatismos pero tampoco hacer un sobreúso que nos distancie de la innovación.

Lo más inteligente es explorar nuevas alternativas cuando percibimos que el contexto cambia y nuestros aprendizajes requieren de nuevas estrategias para ser más eficientes. La automatización mal empleada puede llevarnos a inhibir procesos de innovación y reflexión, tan necesarios en el mundo moderno cambiante e incierto que tenemos.

Automatización paternalista

Cuando criticamos o tenemos miedo de un algoritmo, antes de juzgar deberíamos hacernos al menos las siguientes preguntas: ¿prefiero y compro funcionalidad para vender privacidad? ¿Quien tiene el control de las decisiones?

Algunos expertos afirman que existe una automatización paternalista que dirige las decisiones y el comportamiento humano mediante nudges, mecanismos psicológicos que afectan a la toma de decisiones que beben de nuestros heurísticos y sesgos. Mediante estos “empujoncitos”, las personas elegimos y optamos sin hacer uso del sistema de pensamiento deliberado y consciente.

En nuestro ejemplo anterior, el algoritmo me empuja a volver a entrenar según los datos recogidos por un dispositivo. ¿Es el algoritmo más racional y eficaz? Y en el caso de que lo fuera, ¿queremos realmente que tome nuestras decisiones?

Puede que los algoritmos lleguen a conocernos mejor que nosotros mismos y que automaticen muchas decisiones. Sin embargo, en última instancia, seguiremos teniendo el control de nuestras decisiones. Idea validada por el paso del tiempo y que Epicteto, uno de los estoicos más reconocidos, resumió así:

“De lo existente, unas cosas dependen de nosotros; otras no dependen de nosotros. De nosotros dependen el juicio, el impulso, el deseo, el rechazo y, en una palabra, cuanto es asunto nuestro. Y no dependen de nosotros el cuerpo, la hacienda, la reputación, los cargos y, en una palabra, cuanto no es asunto nuestro.”

(Epicteto, Un Manual de vida, 3, citado por Pigliucci y Lopez en Mi cuaderno estoico).

Conocer cómo funcionamos nos será de mayor utilidad para encontrar ese equilibrio entre automatización e innovación y, así, decidir quién (sistema atencional, automático o algoritmo) toma qué decisiones.

José Luis Serrano, Profesor Titular de Tecnología Educativa, Universidad de Murcia

Este artículo fue publicado originalmente en The Conversation. Lea el original.

COMPARTIR

Recomendados

C

La Inteligencia Artificial Transforma el Panorama Laboral en Colombia

La adopción de la Inteligencia Artificial (IA) está dejando huella en el desarrollo laboral en Colombia, remodelando tareas y optimizando procesos en diversas industrias. Según el "Estudio de remuneración de tecnología 2024" realizado por la división de tecnología de...

Impacto de la Inteligencia Artificial Generativa en las empresas

La Inteligencia Artificial Generativa (GenAI) está teniendo un impacto significativo en la productividad de todos los sectores industriales, lo que podría agregar billones de dólares a la economía global. Hace aproximadamente un año, OpenAI revolucionó el sector...