¿Son las IA sujetos de moralidad?

En su conferencia titulada, sueñan las IA con ovejas eléctricas, el investigador de la UNAM, Miguel Àngel Sebastian, plantea a partir de sus lecturas revisar cuáles son los requisitos para poder señalar que existe responsabilidad moral. La primera es que exista una condiciòn de control, la segunda es que exista una condiciòn epistèmica.  

La primera, de control, implica el poder actuar libremente, la epistèmica tiene que ver con los conocimientos que tiene, es una cuestión cognitiva. estos criterios sirven de guìa para revisar la cuestiòn de la moralidad en las IA, ya que algunos señalan que ante un error de una programaciòn se podrìa culpar al diseñador de sus fallos; Miguel Àngel Sebastiàn, señala el reciente titular de las noticias, en cual un hombre de Bèlgica se suicidò luego de platicar durante horas con el chat GPT, donde en el titular no se mencionaba una cuestiòn de señalar responsabilidad de la IA por el fallecimiento de este hombre.

Volviendo al anàlisis de Miguel Àngel, tenemos pues, que ademàs de la cuestiòn de control, que implica tener libertad de actuar, sigue una muy importante, la cuestiòn epistèmica, que tiene que ver con la informaciòn que posee el sujeto. Para que pueda haber implicaciones morales implica lo siguiente:

Que el sujeto posee información de la acción que está llevando a cabo, por ejemplo que si mueve los dedos, sepa que está jalando un gatillo de un arma, no solo que esta contrayendo los dedos; tener una conciencia de sujeto, es decir, saber que soy yo quien està jalando el gatillo, del valor moral de la acciòn y de las consecuencias de la acciòn. Aquí es importante la condiciòn de la conciencia de sì mismo, de la manera adecuada para poder cumplir con la condiciòn moral. Esto tiene que ver con estados fenomènicamente conscientes de nuestra experiencia de nosotros mismos, es decir,  que van acompañados de emociones y pensamientos; además tiene que ser sin lugar a dudas. 

Es decir, si yo estoy dando una clase, soy consciente de mì, no voy a dudar de algo que estoy haciendo, ni lo pensarè de forma: está dando clase el ùnico hombre calvo de la habitaciòn, sino que soy consciente de ser yo, sin lugar a dudas, quien està dando la clase en la habitaciòn.

En conclusión, debido a que no cumplen con los requisitos arriba mencionados, mucha gente se resiste a atribuir una responsabilidad moral a las IA.

Comentario

Me viene a la mente pensar en un problema diferente al que aborda el investigador Miguel Àngel Sebastiàn, que es la cuestión de cómo estas relaciones con las IA podrían ir cambiando nuestra forma de razonar sobre el mundo. Por ejemplo, dado que los humanos tendemos a ser mimèticos, a ser sociales, me pregunto si esta interacciòn tendrà una influencia mimètica en nosotros.

La cuestión de la mimesis me interesa sobre todo por cuestiones estéticas. Por otro lado, en las relaciones con las IA, me parece que pensar que tendràn demasiada influencia a nivel mimètico serìa quizàs exagerado, porque he visto gentes excelentes que no lograron contagiar de su excelencia a los espíritus màs vagos, y quizàs eso tambièn está bien, es decir, dejar a cada quien ser. 

Lo interesante de estas reflexiones sobre la conciencia, esta ocasión de las IAs, es que nos hacen pensar en nuestra forma de conocer, que a veces damos por sentado, es decir no visualizamos sobre còmo es que pensamos, sino que lo hacemos sin màs para resolver nuestra vida cotidiana en su ritmo personalísimo, que tenemos cada uno de nosotros.

Problematizar la conciencia es a veces angustiante, llevò a Renè Descartes a dudar de si el mundo en el que vivìa era real o una mera ilusión, y es curioso que esta angustia fue parte de su camino para llegar al discurso del mètodo y de ahì al mètodo cientìfico. Y me parece que estos avances llevan tambièn un cierto ritmo, una velocidad. Si para los antiguos filósofos el alma es una cuerda tensa, una armonìa y una melodìa, hay entonces tambièn una velocidad de este ritmo de la música de las almas que se estarìa dando en las personas. La cuestiòn, es por ejemplo, qué acorde se habrá roto en el hombre que mencionamos de la noticia que se suicidò. Se vuelve un asunto pragmàtico, lo de la afinaciòn de los acordes y para ello hay precisamente las propuestas de la ètica, por ejemplo la de Aristóteles, que pueden ser una guìa para encontrar sentido.

Diana Galindo Barajas

Licenciada en Filosofía por la Universidad Autónoma de Querétaro, actualmente se encuentra estudiando la maestría en Filosofía. Ha publicado los libros Despliegue de pájaros (Ediciones El Humo, 2012), Spiritual Kingdom (Ediciones El Humo, 2014), El mundo desde afuera (Ediciones El Humo, 2019) y Las pasiones de la luz (Infame Turba Editorial, 2022).