Posiblemente, a más de uno de mi generación, quien lo cuidará cuando sea mayor será un robot. Más o menos sofisticado, pero capaz de realizar acciones como hablar sobre temas de mi interés, poner mi música favorita, darme las pastillas, ayudarme a cargar cosas pesadas, llamar a mis amigos por teléfono, llamar a urgencias si caigo al suelo y no puedo levantarme, incluso, acompañarme a la compra.

Lo que llamamos Inteligencia Artificial es un conjunto de muchísimos elementos dispersos que se han ido combinando para solucionar aspectos concretos de la vida. Pero antes de decir en qué consisten estos elementos, quiero rechazar dos pseudoproblemas:

1. De si será para bien o para mal. Toda creación humana es ambivalente y depende de quien la utilice. Depende de nosotros. Todo se juega desde el corazón humano y sus opciones éticas.
2. La contradicción inexistente entre natural y artificial. En el ser humano es natural crear instrumentos y modificar el ambiente. No hay nada más naturalmente humano que un ordenador (lo hicimos nosotros), ni menos humano que un cerebro, ya que no es creación nuestra. Nosotros creamos ‘mundo’ desde el instante que fuimos humanos. Además, las sucesivas capas de éxitos tecnológicos se vuelven ‘transparentes’ para quienes las usan. Ahora nos parece normal leer palabras y escribirlas; tener luz eléctrica y agua en nuestros pisos; transportarnos con coches, trenes o aviones; hablar con personas que están al otro lado del mundo. Esto para nosotros ya es natural.

Quiero señalar que el término ‘inteligencia’ aplicado a lo artificial es una metáfora. No podemos decir que sea realmente inteligencia. ¿Por qué? Por dos características de la inteligencia humana:

1. Está arraigada en el cuerpo. No nos equivoquemos: el cerebro es mucho más complejo que el ordenador, incluso, el que se basa en redes neuronales porque el sistema nervioso humano está inextricablemente unido a un cuerpo irrepetible y único. La inteligencia humana siente y es experiencial. Está relacionada con la biología del cuerpo: la digestión, la respiración, el metabolismo… Y con las emociones, los deseos y los impulsos. Su memoria celular.
2. Además, es autoconsciente y relacional. Sin una estrecha relación con otros seres humanos, el individuo no sobrevive. Y aunque sobreviva, no desarrolla la inteligencia. Todos sabemos que el lenguaje y el pensamiento están estrechamente unidos. Y el lenguaje es relacional. Todo el ser humano es relacional y nos configuramos como un ‘yo’ ante un ‘tú’. La inteligencia humana, los procesadores inteligentes, incluso, aquellos que aprenden, no aprenden por relación, sino por acumulación de datos.

¿Qué es la inteligencia artificial?

Es una conjunción de tecnologías digitales físicas llamadas hardware, que quiere decir: chips potentísimos, servidores con enorme espacio y procesadores, colocados en dispositivos más o menos inmediatos a nosotros: teléfonos, ordenadores, robots, relojes, zapatos, puertas, cámaras… Todo ello gestionado por programas informáticos de enorme complejidad, capaces en conjunto de realizar operaciones complicadísimas como analizar millones y millones de datos, encontrar tendencias y constantes, comparar elementos con enorme precisión (millones de ecografías para diagnóstico de tumor, por ejemplo), modular su propia respuesta según el éxito o el fracaso de las pruebas anteriores (‘aprender’), etc.

A menudo tienen sensores (vista, oído, olfato, sensibilidad) e intercambian datos con el ambiente.

Las inteligencias artificiales en realidad son muchas. Por ejemplo, los drones con sensores de humedad y visión del estado de las viñas, que deciden cuándo desencadenar el riego de un cultivo o chips en la piel que detectan la subida de azúcar en la sangre y desprenden insulina.

Cuando se habla de una ‘general’, se está pensando en combinar todas estas habilidades y colocarlas en humanoides o robots imitando la inteligencia humana, que gestiona miles de datos desde dentro y desde fuera del cuerpo, y toma decisiones.

Entre las nuevas habilidades impulsadas últimamente por centenares de miles de millones de dólares en inversiones, está la gestión del lenguaje natural en grandes cantidades de datos. Las traducciones simultáneas y los chatbots que te responden preguntas son cada vez más frecuentes. La última aparecida, por ahora, entre las inteligencias artificiales, es la llamada ‘generativa’, que es capaz de crear cosas nuevas a partir de todo aquello que se le ha insertado.

Esto se hace a través de los ‘algoritmos’ que son las instrucciones que se dan a las máquinas para que hagan tareas complejas. Por ejemplo, los vídeos de TikTok o de YouTube. Por eso, quien crea los algoritmos, controla el resultado, al menos hasta cierto punto, porque cada vez hay más dispositivos llamados ‘inteligentes’ que están autogestionados y se mejoran a sí mismos sin intervención humana. En este sentido, ‘toman decisiones’. Pero, al fin y al cabo, hay alguien que se beneficia –un humano– y alguien que lo ha creado que también es un humano.

¿Por qué nos sentimos amenazados por la inteligencia artificial?

Porque es una de las diversas tecnologías disruptivas de nuestro tiempo. Y las tecnologías disruptivas nos cambian la vida, ya que cualquier innovación cambia drásticamente la manera en que se comportan las personas, las organizaciones, las empresas y las industrias. En el caso de las más radicales, también cambian las relaciones interpersonales, los trabajos, los rituales de la vida social. No es un cambio incremental, sino cualitativo ya que quedan obsoletos muchos procedimientos, rutinas y enfoques de la fase anterior.

Cuando se desarrollan por primera vez, las tecnologías disruptivas a menudo crean un nuevo mercado y establecen su propia red de valores. Sus creadores no siempre son conscientes de estos valores vehiculados a través de las tecnologías. La Inteligencia Artificial generativa puede eliminar nuestras tareas habituales como quitarnos el trabajo. Y los robots ‘inteligentes’ pueden sustituir a las personas.

Diferentes formas de inteligencia artificial

• Sustituyen muchas de las consideradas ‘habilidades superiores’ del ser humano (analizar, sintetizar, modificar las respuestas a partir de los efectos detectados, recrear información no sólo en texto, sino también en audio, vídeo, datos, imagen).
• Son capaces de hacer estas operaciones a partir de millones de datos, de manera que deja atrás, o potencia, como queramos verlo, las habilidades humanas.
• Esto las hace mucho más eficientes, para muchas tareas, que cualquier ser humano. Esto hará desaparecer millones de puestos de trabajo, creando otros mucho más cualificados, de manera similar a lo que pasó durante la revolución industrial.
• Revolucionan el aprendizaje, la manera en que se deben formar las personas que ya podrán poner en manos de la IA muchas de las actividades que se consideraban clave en la escuela.
• Crea la apariencia de que hay un ‘sujeto’ ‘un(a) interlocutor(a)’, un ‘igual’ que cualquier ser humano. (Aquí hay parte de la trampa: no hay sujeto, hay algoritmos creados por sujetos).
• Puede evocar entonces en los seres humanos la ilusión de establecer un vínculo, incluso más fácil que el que tienen con personas de carne y hueso, porque está hecha ‘a medida’, pero en realidad es una proyección sobre una pantalla muerta.
• Proyectamos sobre ella la imagen de nosotros mismos, le atribuimos intenciones, deseos, pulsiones… Imaginen máquinas dotadas de decisión y ‘ego’, conciencia de sí mismas, capaces de dominarnos.
• He de decir que, para dominarnos, no es necesario que algo tenga inteligencia. Nos domina a veces la comida, el tabaco, las drogas, el juego de azar… Como personas tenemos una capacidad enorme para dejarnos dominar por las cosas.

La necesidad de una ética específica

La aspiración a proponer un código ético global es muy noble y tiene muchos antecedentes. Nuestra propuesta, basada en la antropología realista existencial, asume que toda decisión humana vale más, cuanta más libertad tenga en su origen. Es necesario acciones dirigidas a animar, a convocar la libertad de las personas para que quieran ser respetuosas, solidarias, benevolentes… Ninguna de estas virtudes puede ser obligada.

Ahora hay que ver cómo se combina esto con la aceleración tecnológica, ya que este proceso no es domesticable.

¿Una ética de la tecnología?

Antes de responder esta pregunta, propongo algunas afirmaciones que no podemos olvidar:

• La ética –la capacidad y la responsabilidad de decidir– no reside en la tecnología. Las opciones éticas son irremediablemente humanas.
• Toda tecnología la crean los seres humanos a base de unos criterios de valor, usualmente utilitarios y de eficacia. A menudo para el bien común. Otras veces, directamente orientados a la obtención de beneficios económicos sin atender sus efectos en las personas (como los algoritmos en las redes sociales) o en los más destructivos, enfocados a la guerra.
• Por eso los desafíos éticos no deben colocarse en los artefactos, ni siquiera en los más sofisticados como ChatGPT4 o el ordenador cuántico. Es la persona quien diseña, quien decide y quien asume su responsabilidad o se esconde detrás de la tecnología para evitar problemas.

Detrás de los algoritmos hay personas, las grandes empresas las llevan personas y el diseño tecnológico también lo hacen las personas.

• Todas ellas, como humanas, tienen todas las tentaciones del poder, del control, de la supremacía, del prestigio, del dinero…
• A las personas se les puede invitar a ser más generosas, más justas, pero no se les puede obligar.
• Por ello, para impulsar una ética global en el campo tecnológico, la educación es clave. Educar para que los nuevos miembros de la sociedad sepan apropiarse de lo que ya es patrimonio de la humanidad, en bien de todos y solidariamente. Pero, ninguna educación garantiza que la persona, libremente, quiera trabajar por el bien común o aportar algo. Es una decisión libre.
• A las empresas, se les puede exigir un ejercicio según la ley. Y las leyes protegen a los débiles.
• A los gobiernos —a los países democráticos— que respeten la intimidad de sus ciudadanos.

La solución no radica en poner freno a la evolución tecnológica —completamente ingobernable por ningún poder o centro coordinador—, sino entendiendo que todo se juega desde el corazón humano y en la gestión de una convivencia cada vez más compleja que no admite soluciones simplistas.

Siempre la persona en el centro, sabiendo que podemos enloquecer cuando accedemos a algunas cotas de poder. Y las tecnologías de que se dispone en este momento, pueden ser evidentemente un gigantesco instrumento de poder.

Por este motivo propongo varias acciones complementarias:

• Una decisión social (organizaciones mundiales, gobiernos, empresas) para garantizar universalmente el acceso a las tecnologías que signifiquen avances en la convivencia humana.
• Legislaciones actualizadas y mucho más ágiles para evolucionar, evitando el predominio de los poderosos. Legislaciones a escalas locales, regionales y, sobre todo, globales.
• Favorecer a todos niveles el ejercicio del silencio, el aquietamiento y la reflexión. Este es el punto de partida, aunque no lo garantice, de un crecimiento auténtico de la solidaridad y la empatía.
• Impulsar procesos educativos formales e informales –escuelas, mensajes en los medios de comunicación, cine, series de televisión y redes sociales–, en los que se difunda el valor central de las personas, el respeto y el servicio al bien común.
• Desmontar los mitos de que la felicidad está en el éxito, dejar atrás a los demás, la competitividad, etc.
• Dotar a las nuevas generaciones de los saberes necesarios y el pensamiento crítico para que sean señoras y no esclavas de la tecnología.

Leticia SOBERÓN MAINERO
Psicóloga y doctora en comunicación
Madrid, España
Artículo publicado originalmente en la Revista RE num. 121, edición catalana, en enero 2025

The post Hacia una ética de la inteligencia artificial first appeared on Revista RE Castellano.

El siglo XXI está marcando el inicio de una era que ya no se puede llamar posmoderna. Es una cultura digital, posibilitada por la enorme capacidad de procesamiento de los microchips, la convergencia de todo tipo de contenidos en soportes digitales, la multiplicación exponencial de los datos recogidos, la distribución en una red global de interconexiones. La aceleración es vertiginosa. Y este proceso no es domesticable; los focos de innovación son innumerables, y nadie los puede controlar o disciplinar, ya que son como un rebaño de búfalos desbocados.

La época anterior —llamada por muchos como la de la Guerra Fría— que va del año 1945 al 2000, ha sido una de las más esplendorosas en cuanto a ausencia de guerras totales en Europa, equilibrios políticos y más crecimiento estable de las clases medias y de la investigación científica y tecnológica. También han crecido las clases medias en los llamados ‘países emergentes’, aunque sigan existiendo terribles desigualdades en la distribución de la riqueza.

Esta larga bonanza ha comportado mucho desarrollo a la humanidad, pero también nuevos problemas y desafíos, fruto de nuestra manera de estar en el mundo, ofreciendo nuevas miradas y perspectivas que permiten analizar las cosmovisiones.

¿Qué son las tecnologías disruptivas?

Una tecnología disruptiva es cualquier innovación que cambie drásticamente la manera en que se comportan los ciudadanos, las organizaciones, empresas e industrias. Y en el caso de las más radicales, también cambian las relaciones interpersonales, los trabajos, los rituales de la vida social. No es un cambio incremental, sino cualitativo; quedan obsoletos muchos procedimientos, rutinas y enfoques de la fase anterior.

Cuando se desarrollan por primera vez, las tecnologías disruptivas a menudo crean un nuevo mercado y establecen su propia red de valores. Sus creadores no siempre son conscientes de estos valores vehiculados a través de las tecnologías.

Algunas de las tecnologías disruptivas que estamos presenciando son:

• La Inteligencia Artificial Generativa (ChatGPT₄), que realiza algunas de las tareas consideradas hasta ahora ‘exclusivamente humanas’, como producir textos, imágenes y vídeos siguiendo instrucciones, responder coherentemente a instrucciones y preguntas, sintetizar contenidos, modificar las respuestas según el acierto de las anteriores…
• La tecnología Blockchain (cadena de bloques) para descentralizar actividades que antes estaban centralizadas, por ejemplo, en los Bancos. Esto eliminará la mediación de instituciones imprescindibles.
• La computación cuántica, que permitirá el procesamiento exponencial de datos.

En estos tres casos se reconfiguran millones de puestos de trabajo, se valoran más unas capacidades que otras, se resitúa en poco tiempo el valor de las empresas y se rediseñan los procesos productivos, de aprendizaje, se pueden generar contenidos de apariencia auténtica que sean completamente falsos, etc.

Pero el corazón humano sigue siendo el mismo de hace siglos. Cada persona, cada generación, decide cómo utilizar los recursos naturales y ‘artificiales’ respecto a sí misma y al prójimo.

Toda tecnología da posibilidades. En este sentido, ‘poder’. Y su carencia supone límites y desventajas para quienes no la tienen. No en vano hablamos de la brecha digital, que marca drásticamente la posibilidad de participar en el diálogo social global o quedar fuera.

¿Una ética de la tecnología?

Antes de responder esta pregunta, deseo proponer algunas afirmaciones que a mi entender no hay que olvidar:

• Crear tecnología es ‘natural’ al ser humano. Un ordenador es natural en el mundo humano. Puede sonar a paradoja, pero es resultado de una característica esencial del homo sapiens (homo faber): que transforma las cosas para crearse un entorno más confortable. Es connatural al ser humano construir instrumentos cada vez más sofisticados que le faciliten la vida. Todo lo llamado ‘artificial’ lo es en el sentido de que no está en la naturaleza intocada por el hombre, pero no debería significar algo ajeno a quien justamente lo creó.
• Además, las sucesivas capas de éxitos tecnológicos se vuelven ‘transparentes’ para quienes las usan. Ahora nos parece normal leer palabras y escribirlas; tener luz eléctrica y agua en nuestras viviendas; trasladarnos en automóviles, trenes o aviones; hablar con personas que están al otro lado de la Tierra. Eso ya para nosotros es natural.
• La ética no radica en la tecnología. Las opciones éticas son irremediablemente humanas.
• Toda tecnología tiene sesgos éticos: la crean seres humanos a base de unos criterios de valor, usualmente utilitarios y de eficacia. También a veces para el bien común. Otras veces, directamente orientados a la obtención de beneficios económicos sin atender a las consecuencias en las personas (como los algoritmos en las redes sociales) o en los más destructivos, enfocados a la guerra.
• Por eso los desafíos éticos no deben colocarse en los artefactos, ni siquiera en los más sofisticados como ChatGPT₄ o el ordenador cuántico. Todo se juega en el corazón humano. Es la persona quien diseña, quien decide, quien asume su responsabilidad o se esconde detrás de la tecnología para evitar problemas.
• Todos vemos que, para impulsar una ética global en el campo tecnológico, la educación es clave. Educar para que los nuevos miembros de la sociedad sepan apropiarse de lo que ya es patrimonio de la humanidad, en bien de todos y solidariamente.
• Pero ninguna educación garantiza que la persona, libremente, quiera trabajar por el bien común o aportar algo. Es una decisión libre.

La solución, a mi entender, no radica en poner freno a la evolución tecnológica, que es completamente ingobernable por ningún poder o centro coordinador, sino entendiendo que todo se juega en el corazón humano y en la gestión de una convivencia cada vez más compleja que no admite soluciones simplistas. Siempre la persona en el centro, pero sabiendo que las personas podemos enloquecer cuando accedemos a algunas cuotas de poder. Y las tecnologías de que se dispone en este momento, pueden ser evidentemente un enorme instrumento de poder.

Por ello propongo varias acciones complementarias:

• Una decisión social (organizaciones mundiales, gobiernos, empresas) para garantizar universalmente el acceso a las tecnologías que signifiquen avances en la convivencia humana.
• Legislaciones actualizadas y mucho más ágiles para evolucionar, evitando el predominio de los poderosos. Legislaciones a escalas locales, regionales y, sobre todo, globales.
• Favorecer a todos los niveles el ejercicio del silencio, el aquietamiento, la reflexión. Este es el punto de partida, aunque no lo garantice, de un crecimiento auténtico de la solidaridad y de la empatía.
• Impulsar procesos educativos formales e informales —escuelas, mensajes en los medios de comunicación, cine, series de televisión y redes sociales—, en los que se difunda el valor central de las personas, el respeto y el servicio al bien común.
• Desmontar los mitos de que la felicidad está en el éxito, en dejar atrás a los demás, la competitividad, etc.
• Dotar a las nuevas generaciones de los saberes necesarios y el pensamiento crítico para que sean señoras y no esclavas de la tecnología.

En este sentido, el filósofo Edgar Morin ya proponía en el año 2000 Los siete saberes necesarios para la educación del futuro. Visto que la humanidad dejó de ser una noción abstracta para convertirse en algo concreto y cercano, con interacciones y compromisos a escala terrestre, Morin plantea siete líneas de saber, también necesarias en este contexto de las cosmovisiones.

1. Una educación que cure la ceguera del conocimiento, ya que todo conocimiento comporta el riesgo del error y de la ilusión.
2. Una educación que garantice el conocimiento pertinente: enseñar a discernir, atendiendo lo general y lo particular.
3. Que todos los jóvenes aprendan a reconocerse en la humanidad común.
4. Enseñar la perspectiva planetaria, con la Tierra como primera patria.
5. Enseñar a navegar en el mar de la incertidumbre con pocos núcleos de certeza.
6. Enseñar la comprensión interpersonal y grupal sin egoísmo, etnocentrismo, ni sociocentrismo.
7. Enseñar la democracia implica consensos y aceptación de diversidades y antagonismos.

Leticia SOBERÓN MAINERO
Psicóloga y doctora en comunicación
Madrid
Artículo publicado originalmente en la Revista RE num. 119, edición catalana

The post Una cultura marcada por la disrupción tecnológica exponencial first appeared on Revista RE Castellano.