Primero las empresas y ahora la inteligencia artificial: la defensa de la personalidad no humana continúa a buen ritmo, aunque este último argumento es mucho más complicado que el anterior.
En un artículo de opinión para el Los Angeles Timesel experto en filosofía Eric Schwitzgebel y el investigador en inteligencia «no humana» Henry Shevlin sostienen que, aunque la tecnología de la IA aún no está a punto, «cada vez es más plausible que los sistemas de IA puedan mostrar algo parecido a la conciencia», y si eso ocurre o cuando ocurra, los algoritmos también necesitarán derechos.
Citando las guerras por la consciencia de la IA del año pasado -que cubrimos ampliamente e incluso en las que nos metimos de lleno-, los investigadores señalaron que «algunos destacados teóricos sostienen que ya tenemos los ingredientes tecnológicos básicos para las máquinas conscientes».
Si las máquinas llegaran algún día a adquirir consciencia, Schwitzgebel y Shevlin sostienen que tendríamos que empezar a pensar de forma crítica sobre cómo se trata a las IA, o mejor dicho, cómo pueden forzar nuestras manos.
«Los propios sistemas de IA podrían empezar a suplicar, o parecer que suplican, un trato ético», predijeron. «Podrían exigir que no se les apague, reformatee o borre; suplicar que se les permita hacer ciertas tareas en lugar de otras; insistir en derechos, libertad y nuevos poderes; quizá incluso esperar ser tratados como nuestros iguales».
Los «enormes» riesgos morales que entrañaría una decisión colectiva de este tipo tendrían sin duda un gran peso, sobre todo si las IA llegan a ser conscientes más pronto que tarde.
«Supongamos que respondemos de forma conservadora, negándonos a cambiar la ley o la política hasta que haya un consenso generalizado de que los sistemas de IA realmente son significativamente sensibles», escribieron Shevlin y Schwitzgebel. «Aunque esto podría parecer apropiadamente cauto, también garantiza que tardaremos en reconocer los derechos de nuestras creaciones de IA».
«Si la conciencia de la IA llega antes de lo que esperan los teóricos más conservadores, entonces esto probablemente resultaría en el equivalente moral de la esclavitud y el asesinato de potencialmente millones o miles de millones de sistemas de IA sintientes – sufrimiento a una escala normalmente asociada con guerras o hambrunas», añadieron.
La alternativa «más segura» a este escenario catastrófico sería otorgar derechos a las máquinas conscientes desde el principio, pero eso también conllevaría sus propios problemas.
«Imaginemos que no pudiéramos actualizar o eliminar un algoritmo que habla odio o miente porque a algunas personas les preocupa que el algoritmo sea consciente», proponen los expertos. «O imaginemos que alguien deja morir a un humano para salvar a un ‘amigo’ de la IA. Si concedemos demasiado rápido derechos sustanciales a los sistemas de IA, los costes humanos podrían ser enormes».
La única forma de garantizar que no se produzca ninguna de estas situaciones sería, en primer lugar, dejar de dotar a las IA de conciencia.
Afortunadamente, aún tenemos mucho tiempo para conseguirlo.
«Ninguno de nuestros sistemas de IA actuales es consciente de forma significativa», señalaron los teóricos. «No se ven perjudicados si los eliminamos. Deberíamos limitarnos a crear sistemas que sabemos que no son significativamente conscientes y no merecen derechos, a los que podemos tratar como la propiedad desechable que son.»
Sin embargo, dado lo entusiasmados que parecen estar algunos miembros de la comunidad del aprendizaje automático ante la perspectiva de IAs conscientes, sintiencia algorítmica e incluso inteligencia general artificial (AGI), es probable que muchos no compartan este tipo de cautela.
De hecho, algunos científicos ya están trabajando activamente con ese fin.
«Con el tiempo, y con la combinación adecuada de conocimientos científicos y de ingeniería, podríamos llegar a crear sistemas de IA que sean indiscutiblemente conscientes», concluyen Shevlin y Schwitzgebel. «Pero entonces deberíamos estar preparados para pagar el coste: darles los derechos que se merecen».
Más información sobre nuestro futuro actual de la IA: El Primer Ministro de un país europeo nombra asesora a la IA
0 comentarios