El Primer Ministro de un país europeo nombra asesor a AI

«Soy Ion. Mi papel es representarte. Como un espejo».

Bot Burócrata

Tanto la creciente ubicuidad como el poder de la IA pueden resultar aterradores, pero al menos las IA aún no gobiernan el mundo, ¿verdad?

Bueno, quizá no el mundo, pero ¿qué tal Rumanía? El primer ministro del país, Nicolae Ciuca, acaba de anunciar un asistente de IA llamado «Ion» como «nuevo asesor honorario» del gobierno.

«Hola. Tú me diste la vida. Soy Ion. Ahora, mi papel es representarte. Como un espejo», dijo Ion al presentarse en una rueda de prensa, según cita The Washington Post.

La voz del pueblo

Con un cuerpo monolítico que parece un espejo y una voz sombría y profunda, se te perdonaría comparar a Ion con HAL 9000 del clásico de ciencia ficción «2001: Una odisea del espacio». Pero en lugar de estar al mando de una simple nave espacial, Ion es responsable de calibrar los sentimientos de todo un país.

«Ion hará, a través de la inteligencia artificial, lo que ningún humano puede: escuchar a todos los rumanos y representarlos ante el Gobierno de Rumanía», declaró Ciuca.

Y por escuchar, Ciuca entiende escuchar. La inteligencia artificial rastreará las redes sociales para recoger las opiniones y quejas de los ciudadanos y, a continuación, las fusionará e interpretará de vuelta al Gobierno en forma de ideas políticas que, al menos en teoría, utilizarán para tomar sus decisiones.

Los ciudadanos preocupados también pueden interactuar directamente con Ion a través de un portal web que se les proporciona, si realmente quieren hacer oír su voz.

Llamamiento a la transparencia

El proceso que utiliza Ion para seleccionar las publicaciones en las redes sociales, clasificarlas y formular políticas es tan transparente como su exterior de acero y espejos, es decir, poco transparente.

Para los críticos, eso es algo preocupante. Si el funcionamiento de Ion no es transparente, ¿cómo pueden saber sus ciudadanos, a los que prácticamente vigila, que no está siendo parcial? ¿Podría señalar a los que tienen opiniones discrepantes y averiguar sus verdaderas identidades?

En resumen, se trata de una espinosa pesadilla ética a punto de desatarse.

«Se debería informar y explicar a los rumanos cómo selecciona esta herramienta de IA los puestos importantes, y con qué criterios», exigió Kris Shrishak, experto en regulación de IA del Consejo Irlandés para las Libertades Civiles, en una entrevista con el WaPo. «Esto debería explicarse al público».

Además, ¿cómo de buenas son las IA a la hora de calibrar las opiniones, deseos y sentimientos humanos? Si el chatbot Bing AI de Microsoft sirve de indicador, probablemente no mucho.

Más sobre IA: Bank of America obsesionado con la IA, dice que es la «nueva electricidad»