Siempre hemos temido al robot autoconsciente: hay argumentos técnicos y filosóficos para dotarles de «razón»

Uno de los grandes temas de la ciencia ficción se ha convertido hoy en objeto de debate en el sector de la robótica. Que las máquinas tengan consciencia aumentaría su utilidad en ciertas circunstancias y algunos investigadores trabajan para lograr esta meta. Aunque el concepto no se aplica en los robots como se aplica en las personas.

Ricardo Sanz, profesor de la Universidad Politécnica de Madrid (UPM), acude a congresos de consciencia en las máquinas desde hace más de dos décadas. Recuerda su primera convención sobre consciencia artificial como una reunión variopinta: “Era en Suecia, éramos 250 personas y había más monjas que ingenieros”. Allí estaban representadas una amalgama de disciplinas, desde la metafísica a la biología pasando por la computación.

Sanz, que fundó y coordina el Laboratorio de Sistemas Autónomos de la UPM, aclara que existe una diferencia entre lo que los anglosajones llaman ‘conciousness’, que apela a la consciencia vinculada a lo metafísico, y ‘awarness’, que consiste en la autopercepción propia y del entorno, más relacionada con la realidad palpable. En castellano el lenguaje no hace esa distinción.

“Yo me dedico a las máquinas conscientes, pero me dedicó fundamentalmente a investigar cómo conseguir máquinas que se den cuenta de las cosas y entiendan lo que está pasando para ser más eficaces. Que sepan reconocer qué es importante y qué no es importante en un momento determinado”, apunta Sanz. “No estoy interesado en replicar consciencia humana ni consciencia animal. No tocamos lo que los filósofos llaman qualia, la naturaleza de las sensaciones y la experiencia”.

Nada que ver con lo que ocurre en los relatos de Isaac Asimov, como El hombre bicentenario (1976), donde un robot con nombre y apellido (Andrew Martin) anhela volverse humano, o en la afamada película Blade Runner. Aunque la cinta ha eclipsado al libro en el que se basó, la novela de Philip K. Dick tiene un título arrollador: ‘¿Sueñan los androides con ovejas eléctricas?’. Bajo esta frase antiestética y poco inteligible hay un planteamiento estimulante: los robots han alcanzado un nivel de autoconsciencia que se acerca demasiado a aspectos considerados terreno exclusivo de los humanos.

El trabajo de Sanz y su equipo pretende dotar a las máquinas de una capacidad para manejar cualquier incidencia con soltura. Por ejemplo, si un robot se va a quedar sin batería porque está al 7% y le queda aún ir con una mercancía y volver a su puesto, debería ser capaz de preverlo y poner una solución. Esto ya se hace con sistemas específicos de tolerancia a fallos, que evitarían en este caso que el robot se quedase a medio camino.

Pero se hace de una forma artesanal, a mano. Se escribe un programa para evitar que se quede sin batería, otro por si se topa con una persona en su camino. Pero no hay un sistema unificado capaz de solucionar todos estos problemas.

“Nosotros investigamos de qué manera se pueden manejar todas estas situaciones de una forma integral. Un sistema que le permita al robot incorporar cualquier cosa que necesite comprender. Se trata de que las representaciones mentales del robot sean más adecuadas para las realidades a las que se enfrenta”, expone el profesor de la UPM.

Hay quienes van más allá. A lo largo de décadas, la consciencia en las máquinas ha sido un tema recurrente. En 1995, el profesor de la Universidad de Stanford John MacCarthy, que fuera uno de los pioneros en inteligencia artificial en los años 50, avanzó el trabajo ‘Making Robots Conscious of their Mental States’. Años después, en 2002, lo revisó y publicó con un enfoque que identificaba la consciencia de las máquinas como un conocimiento introspectivo.

Para el autor del ensayo, los robots necesitan esta capacidad para operar en el mundo real y llevar a cabo tareas propias de los humanos. Un robot, por ejemplo, debería ser capaz de inferir que no sabe algo —tener conocimiento de su ignorancia respecto a una cuestión— para tomar decisiones. Así podría buscar la información que le falta fuera o seguir su proceso de razonamiento hasta estar seguro de haber dado con una solución al problema planteado.

“La consciencia se define más o menos como sintiencia”, agrega el profesor de Filosofía y divulgador Santiago Sánchez-Migallón. “Es tener un campo fenoménico. Una máquina tendría que tener un espacio subjetivo en el cual perciba colores, perciba sonidos, tenga sensaciones táctiles, incluso tenga emociones y recuerdos”. ¿También se necesitan emociones? La respuesta es clara: “Consciencia es la capacidad captar el mundo y muchas veces captamos el mundo emocionalmente. Así que las emociones entrarían”, afirma el profesor de Filosofía.

Y es que definir bien la consciencia es clave para decidir si las máquinas la necesitan. “Si equiparamos con lo que es la consciencia humana, en mi opinión, no necesitamos consciencia en las máquinas”, señala el catedrático de la Universitat Politècnica de València (UPV) Vicent Juan Botti Navarro, que dirige el Instituto Universitario Valenciano de Investigación en Inteligencia Artificial (VRAIN). “Creo que no es necesario en ese sentido para resolver problemas, para poder automatizar procesos, tanto industriales como administrativos o de otro tipo”.

Para Botti, el término tiene un carácter filosófico inapelable. En cuanto a los debates sobre si los modelos de lenguaje de hoy en día tienen o no consciencia, su opinión es categórica: no se pueden considerar conscientes.

Más allá de las ramificaciones filosóficas, Sanz se centra en el pragmatismo: “Si hacemos robots que se mueven y que utilizan láseres de barrido para medir la distancia entre los objetos y, de repente, el láser falla, el robot tiene que darse cuenta de eso y tomar decisiones correctas. Porque si un robot se mueve con un láser que está fallando, va a chocar con las cosas”.