¿El final de la humanidad está próximo?

Hace tan solo unos días, llamaban poderosamente la atención unas declaraciones del gerente de la empresa estadounidense Anthropic, Dario Amodeio, en las que pedía ralentizar el desarrollo de la inteligencia artificial (IA) (https://www.bbc.com/mundo/articles/c86x7vnegvvo).

Amodei afirma que el desarrollo de la IA no está en duda, pero que los riesgos que entraña son lo suficientemente graves como para requerir que las empresas y los gobiernos los aborden con la debida diligencia.

Otros directivos de empresas rivales como Sam Altman de OpenAI y Elon Musk también se han mostrado receptivos a esta propuesta.

Los riesgos de esta tecnología pueden ser enormes en función de las manos que la utilicen. No en vano, en este mismo blog, se publicó hace unos días la noticia del homicidio de una familia a manos de su hijo con la asistencia de ChatGPT (https://www.bioeticablog.com/asesor-personal-chatgpt/) o el suicido de un joven estadounidense cuyo único amigo era precisamente ChatGPT, que le animó a tomar esa drástica decisión (https://www.bioeticaweb.com/los-peligros-reales-de-la-inteligencia-artificial/).

En este sentido, también se manifestó un ingeniero que abandonó su puesto en Anthropic, que declaró a la BBC: “Si no reducimos el ritmo actual de progreso, existe una elevada probabilidad de que todos acabemos muriendo en un futuro inmediato”.

Parece ser que las personas que trabajan en empresas dedicadas a la IA están realmente preocupadas a la par que asustadas por el destino de la humanidad en los próximos dos años. Ese aciago destino puede implicar incluso la extinción de la humanidad según la opinión de los expertos.

En el ensayo titulado “We must Pace the Frontier” publicado por Amodei, propone un plan con tres puntos fundamentales (https://darioamodei.com/post/we-must-pace-the-frontier):

1) La supervisión independiente de los modelos de la IA a medida que se desarrollan;
2) Una regulación a nivel sectorial; y
3) Una regulación a escala mundial de la industria.

Esta propuesta cuenta con el apoyo de los principales estandartes de la industria de la IA, que consideran que disponer de supervisores externos para evaluar la seguridad de los modelos puede marcar la diferencia.

Por su parte, el CEO de OpenAI, Sam Altman, manifestaba también su preocupación en una reciente entrevista en cuestiones relativas a la seguridad y también afirmó que una IA fuera del control humano era un escenario posible.

El controvertido empresario Elon Musk también se ha mostrado de acuerdo con estas inquietudes.

La única nota discrepante ha sido la de Donald Trump, que considera que todas estas advertencias solo ralentizan el avance de la IA en Estados Unidos que desea ganarle el pulso a China, donde ya se celebran incluso olimpiadas para robots (https://www.bioeticablog.com/olimpiadas-de-robots/).

Todos los directivos implicados en el desarrollo de modelos de inteligencia artificial han ido posponiendo la difusión para uso público de sus últimos productos por problemas de ciberseguridad. De hecho, Amodei afirma que dejó la empresa OpenAI para fundar Anthropic en 2021 y poder ofrecer modelos más seguros y fiables. Sin embargo, parece que ese objetivo por ahora no se ha alcanzado.

La propuesta formal de Amodei se basa en garantizar la seguridad de estos modelos mediante la evaluación externa de expertos, y con la colaboración de los gobiernos.

Sin embargo, también reconoce que es importante no ceder el liderazgo tecnológico a China que no parece tener tantos reparos éticos para desarrollar nuevos y potentes productos de IA, ya sea en forma de chatbots, robots o modelos de lenguaje.

Las inquietudes del director de Anthropic están en línea con los postulados del transhumanismo que plantea la transformación radical del ser humano mediante la tecnología y que ya avisó hace tiempo con figuras como el profesor de Oxford, Nick Bostrom, de que el final de la humanidad tal como la conocemos estaba cerca.

En la actualidad, Bostrom incluso afirma que la inteligencia artificial jubilará a los humanos y transformará el trabajo y las relaciones con las máquinas de manera radical. Bostrom se define como un “optimista preocupado”, porque considera que la tecnología puede mejorar la vida de las personas generando una abundancia de recursos que permita que las personas dejen de trabajar (https://as.com/actualidad/sociedad/nick-bostrom-profesor-en-oxford-la-ia-sera-una-gran-jubilacion-para-la-humanidad-debemos-perseguir-la-promesa-de-un-mundo-resuelto-f202609-n/).

La realidad es que la inteligencia artificial plantea no solo cuestiones de seguridad, transparencia o trazabilidad, sino cuestiones éticas que deben ser resueltas. La posibilidad de que el ser humano llegue a extinguirse por el control de las máquinas es una idea que por el mero hecho de existir debería plantear una moratoria en el desarrollo de la IA, como ha ocurrido con la propuesta voluntaria de moratoria en la edición genética.

Si realmente el peligro de la inteligencia artificial es tan grave, la propuestas de uso de robots en el cuidado de ancianos en casa o en una residencia deberían ser desechadas de inmediato.

Por otra parte, el uso y abuso de ChatGPT y similares por parte de adolescentes y jóvenes también demanda una mirada ética para evitar que sus vínculos afectivos se reduzcan al contacto con las máquinas y redes sociales.

Según los transhumanistas, el uso de la tecnología puede permitir superar los límites del ser humano. La pregunta es si ese salto sustancial hacia la mejora humana vendrá acompañado de una suerte de manual de instrucciones con principios éticos que permita poner límites entre curación y mejora, por ejemplo. Este es uno de los grandes debates que mantienen los transhumanistas con los bioconservadores como el desaparecido Jürgen Habermas que considera que traspasar los límites de la naturaleza humana y cancelar el azar genético a favor de la mejora humana genética es un error que podría conllevar graves consecuencias. Algunas de ellas serían la pérdida de autoría vital de los individuados modificados genéticamente, la ruptura de la simetría social, e incluso la amenaza de la especie.

Los peligros de la inteligencia artificial son reales y deben ser abordados desde un punto de vista social, laboral, económico y ético. El uso de Big Data, sobre todo en el sector sanitario y los problemas de ciberseguridad asociados, la socialización a través de chatbots, la pérdida de profesiones humanas a favor de los productos de la inteligencia artificial (https://www.bioeticaweb.com/la-obsolescencia-de-las-profesiones-humanas/) o el cuidado de los ancianos con robots humanoides plantean preguntas de calado que deben ser abordadas desde la bioética entendida como ética de la vida.

La ética de la vida debe ser uno de los actores principales en el debate que ha planteado Amodei, ya que el final de la humanidad y de la vida humana tal como la conocemos supone un giro antropológico absolutamente radical y definitivo. Una moratoria en el desarrollo de la IA podría ofrecer una ventana de oportunidad a filósofos, ingenieros, gobiernos y ciudadanía para iniciar un más que necesario debate ético en profundidad sobre el futuro de la humanidad.