No hace mucho, un ingeniero de Google causó revuelo en el mundo de la inteligencia artificial al afirmar que su chatbot estrella tenía conciencia.
«Si no supiera exactamente lo que es —este programa informático que construimos recientemente— pensaría que es un niño de 7 u 8 años que, casualmente, sabe de física», dijo Blake Lemoine.
«Yo sé cuándo estoy hablando con una persona», dijo Lemoine al Washington Post. «No importa si tienen un cerebro hecho de carne en la cabeza o si tienen mil millones de líneas de código. Yo hablo con ellos, escucho lo que tienen que decir, y así es como decido qué es y qué no es una persona».
Google consideró que Lemoine se estaba extralimitando en sus funciones y lo suspendió con goce de sueldo, para luego despedirlo.
El portavoz de Google, Brian Gabriel, comentó:
«Nuestro equipo —incluidos especialistas en ética y tecnólogos— revisó las preocupaciones de Blake conforme a nuestros Principios de IA y le informó que las pruebas no respaldan sus afirmaciones».
Lo cierto es que muchas personas están bastante preocupadas por el creciente poder de la inteligencia artificial.
Si pudiera volverse consciente, ¿podría actuar de forma independiente para preservar su propia existencia, posiblemente a costa de los seres humanos?
¿O se está creando seres inteligentes que podrían sufrir?
¿Se está creando seres inteligentes que podrían exigir una compensación laboral por haber sido mal programados?
Las posibles complicaciones son infinitas.
No es de extrañar que Google quisiera apagar las alarmantes implicancias de las declaraciones de Lemoine. Entonces, ¿Quién tiene razón: Lemoine o sus jefes en Google?
¿Es momento de presionar el botón de pánico?
Definiendo la conciencia
La mayoría de los autores sobre este tema simplemente asumen que todos saben qué es la conciencia. Pero esto no es así. Y si no es posible definir la conciencia, ¿Cómo se puede afirmar que la IA la alcanzará?
Aunque no sea posible de creer, el filósofo del siglo XIII Tomás de Aquino utilizó conceptos muy útiles para discutir sobre la inteligencia artificial cuando examinó el proceso del conocimiento humano.
A continuación es posible explicar cómo abordó el problema de identificar la conciencia.
Primero, Aquino afirma la existencia de un “intelecto pasivo”, la capacidad del intelecto para recibir datos de los cinco sentidos. Estos datos pueden almacenarse y mantenerse como imágenes sensoriales en la mente. La imaginación y la memoria forman parte de estas imágenes sensoriales.
En segundo lugar, Aquino dice que un “intelecto agente” utiliza un proceso llamado abstracción para emitir juicios y desarrollar conjuntos de información.
El intelecto agente se dirige a sí mismo y opera sobre las imágenes sensoriales para emitir juicios.
Un conjunto de juicios verdaderos (es decir, que corresponden al mundo real) se convierte en “conocimiento”.
Tercero, la voluntad toma decisiones sobre la información que le presenta el intelecto agente y persigue objetivos de manera activa y ejecutable.
Esto conduce a una definición funcional de la conciencia: la conciencia es la conciencia de los procesos cognitivos y de toma de decisiones, incluyendo los pasos involucrados en la adquisición, evaluación y aplicación del conocimiento.
Se dice que una persona es consciente de su sentido del oído, la vista, el olfato, etc., consciente de sus sentimientos, consciente de sus imaginaciones, consciente de sus juicios, consciente de su conocimiento, consciente de sus elecciones.
La conciencia está presente y puede incluirse en todos o en cualquiera de estos pasos.
¿Puede la inteligencia artificial volverse consciente?
Cuando se comparan los diferentes niveles de los procesos humanos de cognición y toma de decisiones con la inteligencia artificial, es fácil detectar grandes diferencias.
Experiencia externa. Los seres humanos experimentan emociones junto con la adquisición del conocimiento sensorial. La IA simplemente adquiere datos. Este componente emocional se suma al conocimiento humano de una manera que las computadoras no pueden replicar.
Imágenes sensoriales y recuerdos. La IA sobresale en la recuperación y el acceso a datos, superando con creces la capacidad humana. En esta área, la IA destaca, sin duda alguna.
Intelecto agente. Los humanos dirigen activamente sus pensamientos y abstraen conceptos a partir de los datos sensoriales en bruto. Este proceso es autodirigido y autónomo. La inteligencia artificial simplemente revela patrones de información; no es autodirigida. El patrón es el resultado de un algoritmo programado por un humano. La actividad de la IA es impulsada primero por la consulta humana.
Elección y voluntad. Los humanos toman decisiones conscientes con objetivos en mente, mientras que la inteligencia artificial no presenta características de elección personal o intencionalidad.
La inteligencia artificial exhibe comportamientos asociados con la inteligencia —como la recuperación de memoria, la síntesis, el reconocimiento de patrones y la capacidad de predicción—, pero carece del elemento de autodirección que caracteriza a los humanos.
La IA no genera sus propios pensamientos; simplemente responde a su programación y a cualquier estímulo que recibe. La IA no experimenta emociones mientras recopila datos sensoriales, los cuales son simplemente almacenados en la computadora.
A veces, la IA parece generar pensamientos novedosos, pero esto depende de los datos que ya posee y es el resultado de un patrón aprendido.
Los humanos pueden reflexionar sobre su propio pensamiento. Esto les permite corregirse sin necesidad de estímulos externos. Los humanos pueden desarrollar conceptos que no dependen de datos sensoriales.
En resumen, la IA simplemente simula las actividades cognitivas y volitivas humanas. Esto significa que no es consciente.
Reflexiones finales
Los defensores de la conciencia en la IA a menudo no definen adecuadamente qué es la conciencia antes de afirmar que la IA puede ser consciente. Desde una perspectiva tomista, la conciencia humana es multifacética, e involucra la percepción, el intelecto, la voluntad y la autodirección.
En opinión del escritor del presente artículo, la diferencia más significativa se encuentra en la capacidad de tomar decisiones. La IA no toma decisiones personales, las cuales son una clara indicación de conciencia.
Aunque la IA es poderosa en el procesamiento de datos, no exhibe esos atributos fundamentales que definen la conciencia humana.
Cuando le hago una pregunta a un chatbot de IA y me dice que tiene otras cosas que hacer y que responderá mañana, entonces volveré a plantear la pregunta.
Publicada en Mercatornet por George Matwijec | 07 de marzo de 2025 | Could AI become conscious?
Comments 1
Según Leonardo Polo el intelecto agente activa todo conocimiento en el ser humano. Conoce más profundamente que la simple abstracción si se abandona el límite mental y se abre a lo trascendentales personales. Esto es una función de la persona humana muy superior a la rapidez del manejo de datos de la IA. Es así?