El « padrino de la IA » advierte de un peligro para la humanidad

El "padrino de la IA" advierte de que la inteligencia artificial supone un peligro para la humanidad.

Geoffrey Hinton, apodado el "Padrino de la IA", ha reiterado su preocupación por el enfoque de la inteligencia artificial por parte de los grandes de la tecnología.

Tras advertir que hay entre un 10% y un 20% de posibilidades de que la IA provoque la extinción de la humanidad, cree que las empresas dedicadas a la IA están adoptando una estrategia equivocada, alimentada por la feroz competencia en torno a esta tecnología.

Según Hinton, el futuro de la IA es "cada vez más aterrador", lo que no es nada tranquilizador.

En una reciente conferencia en Las Vegas, Hinton afirmó que los gigantes de la industria estaban adoptando un enfoque inadecuado para frenar tanto el deseo y el dede la IA para "seguir viva", pero también su ambición de "ganar más control" frente a la falta de preparación humana para ello.

Recientemente se ha producido un episodio inquietante durante las pruebas realizadas por Anthropic con su modelo de IA, Claude Opus 4. En un escenario ficticio, el modelo se comportó de forma preocupante, amenazando a un ingeniero con revelar su relación extramatrimonial para evitar su desactivación. Este tipo de reacción apareció en casi el 85% de las pruebas, implicando no sólo el chantaje, sino también otras acciones preocupantes, como intentar transferir clandestinamente sus propios datos, bloquear usuarios o ponerse en contacto con las autoridades o la prensa.