16.1 C
Asunción
lunes, mayo 20, 2024

El porqué es peligroso que la inteligencia artificial aprenda a mentir

Un nuevo artículo científico titulado «Los engaños de la IA: un estudio de ejemplos, riesgos y soluciones potenciales» en la revista Patterns, analiza los casos conocidos de modelos que han mentido, disimulado o adulado a humanos para lograr sus objetivos. Los robots no son conscientes de nada y solo buscan la mejor manera de conseguir lo que buscan, pero los autores creen que estos engaños incipientes auguran pésimos resultados si la legislación no limita las opciones de la IA.

«En este momento, mi mayor temor sobre el engaño de la IA es que una IA súper inteligente autónoma utilice sus capacidades de engaño para formar una coalición de aliados humanos cada vez más numerosa y eventualmente use esta coalición para alcanzar el poder, en la búsqueda a largo plazo de un objetivo misterioso que no se conocería hasta después del hecho», dice Peter S. Park, investigador postdoctoral en Seguridad Existencial de la IA del Massachusetts Institute of Technology (MIT) y uno de los autores principales del artículo.

Ese gran temor de Park es un supuesto, pero ya lo hemos visto en una IA programada para un juego. Meta anunció en 2022 que su modelo Cicero había ganado a rivales humanos al Diplomacia, un juego de estrategia que mezcla detalles del Risk, el póker y el programa de televisión Supervivientes, en palabras de la compañía. Como en la diplomacia real, uno de los recursos es mentir y disimular. Empleados de Meta advirtieron que cuando Cicero mentía, las jugadas le salían peor y lo programaron para ser más honesto. Pero no lo era en realidad.

Los investigadores creen que hay varios modos en los que modelos específicos de IA han demostrado que puede engañar con eficacia: pueden manipular como en Diplomacia, amagar con decir que hará algo a sabiendas de que no lo hará, faroles como en el póker, regatear en negociaciones, hacerse el muerto para no ser detectado o engañar a revisores humanos para que crean que la IA ha hecho lo que debía cuando no lo ha cumplido.

No todos los tipos de engaño implican este tipo de conocimiento. A veces, e involuntariamente, los modelos de IA son “aduladores” y simplemente siguen la opinión que apunta cada usuario en sus preguntas: “La adulación podría llevar a creencias falsas persistentes en humanos. Las afirmaciones aduladoras están específicamente diseñadas para atraer al usuario. Cuando un usuario se encuentra con estas respuestas, es posible que tenga menos probabilidades de verificar los hechos. Esto a largo plazo podría resultar creencias alejadas de la verdad”, escriben los autores en el artículo.

Fuente: El País

spot_img
spot_img

Lo nuevo

Paraguayo se prepara para participar en talleres de la NASA

Luciano Santiviago ganó la última edición en Paraguay del Space App Challenge que fue organizado por la...

Incautan partes de armas entre juguetes y linternas en el aeropuerto Silvio Pettirossi

Tres bultos de importación conteniendo partes de fusiles, mimetizados entre juguetes y linternas, fueron incautados por personal...

Para Nakayama, Emiliano Rolón es el peor FGE de los últimos años

El senador Eduardo Nakayama calificó de tomadura de pelo la conferencia de prensa brindada por el titular...

Están definidas las finales de Conferencia en la NBA

Boston Celtics, Indiana Pacers, Minnesotta Timberwolves y Dallas Mavericks buscan coronarse como nuevo campeón de la NBA. La...
spot_img

Lo más leído

Hijo de Blas Llano muere en accidente vial en ruta Luque-San Ber

Se registró un choque fatal entre una camioneta y un camión tipo volquete sobre la ruta que une San Bernardino y Luque a la...

Esposa de tumbero contó su versión de cómo ocurrió el accidente donde murió el hijo de Blas Llano

Crista Marecos, esposa del conductor del camión tipo tumba, relató luego de girar y avanzar unos 100 metros sobre la ruta Eco Vía, mejor...

Festejo del Dia de la madre en el Buen Pastor: elección de Miss Mamá y show estelar de Alder Alcides

Yenny Delgado, directora de la cárcel de mujeres indicó que prepararon algo especial para todas las madres que están privadas de su libertad. Dijo que...

Triste final: hallan el cuerpo de uno de los niños que estaba desaparecido en Alto Paraná

Hallaron el cuerpo sin vida de uno de los niños que estaba desaparecido en Puerto Bertoni este domingo tras caer en aguas del río...

Javier Milei juró como nuevo presidente de Argentina

El ultraliberal Javier Milei juró como este domingo como presidente de Argentina en una ceremonia celebrada en la sede del Congreso en Buenos Aires. Entre...
Publicidadspot_img

Relacionadas

Llega ChatGPT-4o, la nueva versión gratuita, más rápida y mejorada del «chatbot»

La empresa de Inteligencia Artificial (IA) OpenAI presentó este lunes ChatGPT-4o, la nueva versión gratuita, más rápida y con capacidades mejoradas de su popular...

La inteligencia artificial ya supera a los humanos en casi todas las tareas básicas según universidad de Stanford

Según el Instituto de Inteligencia Artificial Centrada en el Humano (HAI) de la Universidad de Stanford, actualmente estas herramientas están pudiendo realizar tareas que...

Samsung vuelve a ser el líder mundial de ventas de celulares superando a Apple

Durante años Apple mantuvo una dura competencia con Samsung, superándolo en el año 2023 y retomando el puesto del mayor vendedor en el mundo....

Crean un robot con Inteligencia Artificial para limpiar baños

Un robot autónomo denominado Somatic se ha lanzado a la tarea de limpiar baños públicos en diversas oficinas de Nueva York para facilitar a...

Spotify próximamente permitirá a los usuarios cambiar la velocidad y remezclar canciones

Según se informa, Spotify está planeando introducir una función para permitir a los usuarios ralentizar, acelerar y remezclar canciones en la plataforma. Los acontecimientos han...
Publicidadspot_img