Pablo Andrés de Francisco León
pablo.defrancisco@udea.edu.co
Departamento de Psicología
Universidad de Antioquia
Sophia es una robot humanoide con rasgos faciales detallados, funciones de comunicación lingüística fluida, capacidad de aprendizaje mediante la experiencia social y una fascinante habilidad para responder con gestos emocionales de acuerdo al contexto (Retto, 2017). Aunque el proyecto de crear un robot tan sofisticado ha sido objeto de fuertes críticas, algunos afirman que no se trata de un simple juguete. El objetivo que se han trazado sus creadores es desarrollar un sistema computacional consciente tan potente como la mente humana (Fitzsimmons, 2017; Vincent, 2017; Charlton, 2018). ¿Podrá Sophia ayudarnos a esclarecer algunos misterios sobre consciencia, una vez se le hagan los upgrades considerados como necesarios para replicar en ella la cognición humana?
Algunos filósofos interesados en el problema de la conciencia se han ocupado de dar posibles respuestas a esta clase de preguntas.
Para Searle (1980), lo que este tipo de máquinas realizan son meras operaciones formales despojadas de contenido semántico. Por medio de computaciones sintácticas, un robot puede responder a un estímulo, pero sus respuestas estarían vacías de significado y de intención. Lo que tendríamos ante nosotros sería un objeto programado para simular propiedades mentales, pero sin ninguna capacidad de tener experiencias conscientes reales. Además, Searle argumenta que nuestra conciencia está estrechamente relacionada con las especificidades de nuestra composición biológica. Un cerebro de silicio no cumpliría con los requisitos materiales para reproducir conciencia. Según esta teoría, Sophia se limitaría a ser una máquina dotada con mecanismos que le permitirían simular algunos de nuestros procesos mentales. Su comportamiento nos genera la ilusión de que es un objeto con mente, pero esto no sería más que una proyección de nuestra propia intencionalidad (Rivière, 1998).
Por su parte, Dennett (2001) afirma que la conciencia es el resultado de un conjunto de procesos computacionales compitiendo entre sí, amplificados por reverberación en bucle, y con posibilidad de acceso mutuo. Además, considera que la conciencia no depende estrictamente del material o del sustrato donde se realicen los programas computacionales, sino de la organización de las redes y de la función que cumple cada elemento o sistema participante en su producción. Por eso, si lográsemos descifrar los roles funcionales que desempeñan los componentes cerebrales participantes, tendríamos posibilidad de reproducirla. Así, para Dennett, aunque Sophia no cuente aún con los mecanismos necesarios para ser consciente, en la medida que vayamos descubriendo los componentes básicos de la conciencia y su funcionamiento, podremos reproducirlos sintéticamente. En un futuro, no tendremos problemas para dotar a Sophia de conciencia.
El filósofo David Chalmers (1999) no estaría en completo desacuerdo con la propuesta anterior. Este autor defiende que cualquier sistema organizado funcionalmente de manera adecuada será consciente, sin importar la sustancia de la que esté compuesto. No obstante, Chalmers ha manifestado que los procesos mentales que llevamos a cabo pueden ocurrir sin necesidad de experiencias conscientes. Reducir nuestras investigaciones a lo funcional deja por fuera lo que ha llamado el problema difícil: ¿por qué nuestros procesos mentales suelen venir acompañados de experiencia? Según este filósofo, necesitamos encontrar una teoría que dé cuenta tanto de los aspectos físicos como de los fenoménicos de la consciencia. Chalmers sugiere que una teoría así podría fundarse a partir del concepto de información, haciendo uso del principio de doble aspecto: la información no se limita a estados físicos, sino que incluye elementos fenoménicos. Según este pricipio, la información tiene aspectos tanto físicos como fenoménicos. Así, cualquier sistema que procese información por medio de interacciones causales tendrá algún tipo de experiencia, aunque no cuente con una estructura compleja que le permita procesar dicha información en estados mentales. En pocas palabras, la conciencia sería una propiedad fundamental difundida por todo el universo.
Con base en la propuesta de Chalmers, podríamos afirmar que Sophia tiene ya tiene experiencias fenoménicas, aunque no cuente con un sistema complejo de procesamiento; Sophia sería consciente, al menos de un modo rudimentario.
Las teorías con las que contamos actualmente, en lo que respecta a la posibilidad de conciencia en sistemas artificiales, son variadas y prometedoras. Poco a poco hemos ido desarrollando herramientas que han permitido poner a prueba algunos de sus postulados, pero quedan todavía muchas dificultades por superar. Aún no se tiene claro cuáles son las posibilidades reales que tenemos de dotar a Sophia de conciencia.
Referencias
Chalmers, D. (1999). La mente consciente. En busca de una teoría fundamental. Barcelona: Gedisa
Charlton, A. (2018, enero 19). Sophia the robot is a scam and a ‘bulls**t puppet’, says Facebook’s director of AI. Recuperado de https://www.gearbrain.com/sopha-the-robot-artificial-intelligence-2526789206.html
Dennett, D. (2001). Are we explaining consciousness yet? Cognition, 79, 221-237. Recuperado de http://web.ics.purdue.edu/~drkelly/DennettAreWeExplainingConsciousness2000.pdf
Fitzsimmons, C. (2017, octubre 31). Why Sophia the robot is not what it seems. Recuperado de https://www.smh.com.au/opinion/why-sophia-the-robot-is-not-what-it-seems-20171031-gzbi3p.html
Retto, J. (2017). Sophia, first citizen robot of the world. Universidad Nacional Mayor de San Marcos. Recuperado de https://www.researchgate.net/publication/321319964_SOPHIA_FIRST_CITIZEN_ROBOT_OF_THE_WORLD
Rivière, A. (1998). Objetos con mente. 2 ed. Madrid: Alianza
Searle, J. (1980). Minds, brains and programs. The behavioral and brain sciences, 3, 417-457
Vincent, J. (2017, noviembre 10). Sophia the robot’s co-creator says the bot may not be true AI, but it is a work of art. Recuperado de: https://www.theverge.com/2017/11/10/16617092/sophia-the-robot-citizen-ai-hanson-robotics-ben-goertzel
El articulo tiene información muy interesante sobre las distintas formas en las que nuestro cerebro actúa en el cuerpo de los individuos, y aunque tiene citas de autores muy interesantes, me parece que es un tema aun discutible. La complejidad del asunto radica no solo en la consciencia, sino también en definir específicamente que es la consciencia y como esta actuaria en una maquina. Por que si hablamos de darle consciencia a una maquina estaríamos infiriendo en la idea de que estamos «creando consciencia», y esto es algo que suena extraño en demasía. Pero tal vez sea ignorante en cuanto a este tema, aunque ya hoy en día se trate muy frecuentemente entre los pensadores mas influyentes de las ciencias filosóficas. Solo concluiré diciendo que me parece un poco imposible que en este momento pensemos en darle dotes propios e inmutables de nuestro ser a una creación artificial, porque de igual modo no sabemos aun que es lo que hace que tengamos una consciencia, solo tenemos las hipótesis científicas que han sido planteada a lo largo de los años.
Así que me parece un tema para futuras generaciones, las cuales, estoy seguro, resolverán el problema.
Estoy de acuerdo con el argumento del señor Daniel Dennet, pues en el algún momento de la historia conocida llegaremos a tal punto de evolución que hasta podría ser que las máquinas como Sophia lleguen al nivel en el que fusionen sus cualidades mecánicas exactas con una ideología de la cual tomaran iniciativa para cambiar y revolucionar. Considero que es cuestión de tiempo que inculquemos la moral, la razón y el pensamiento en general en los seres de metal, la ciencia avanza exponencial-mente, de forma que si no sabemos como llevarla puede incluso superarnos a nosotros mismo como creadores de ella, todo tiene su riesgo, pero de todas formas siempre habrán formas de corrgír y seguir progresando.
Me surge una inquietud a partir de la lectura del artículo, según este «el robot puede responder a un estímulo pero sus respuestas estarían vacías de significado y de intención», sin embargo en el texto citan a Dannett el cual indica la posibilidad que en el futuro el robot se encuentre dotado de conciencia. Siguiendo el hilo argumentativo pregunto: ¿podrían ser los robots sujetos morales o al menos agentes a los cuales se les puede hacer imputaciones morales? ¿Serían estos libres?
De acuerdo con el texto, Dennett (2001) afirma que la conciencia es el resultado de un conjunto de procesos computacionales compitiendo entre sí y solo cuando el funcionamiento de la conciencia se haya descifrado del todo, se podrá replicar o reproducir sintéticamente. En un futuro, no se tendrían problemas para dotar a Sophia de conciencia. Entonces ¿Si para atribuir conciencia a Sophia debemos tener un entendimiento absoluto del funcionamiento de la conciencia, no sería lo mismo atribuirle conciencia ahora que dentro de 100 años, debido a que actualmente ya se afirma que con mayor complejidad Sophia tendría conciencia, solo que aún no logramos entender el concepto del todo? O ¿Nunca se le podrá atribuir conciencia a Sophia debido a que es muy difícil conocer todos los componentes básicos y funcionamiento de la conciencia en términos absolutos?
El tratamiento campante y superficial que se le da en el artículo a un concepto tan complejo como la conciencia, denota un error epistemológico que impide abordar la problemática desde cualquier otra aproximación que no parta de los presupuestos deterministas y reduccionistas que se exponen en el mismo, por lo que mi aporte busca, ante todo, ampliar la definición inicial con referentes teóricos que nos puedan brindar una visión más holística del mismo (no meramente biológica y positivista, como lo expresa el articulo):
“La reflexión que se dirige a la conciencia como el ámbito donde acaece el conocimiento tiene su inicio en la modernidad. La conciencia se realiza en su plenitud como autoconciencia, la cual también es deseo e impulso hacia el objeto conocido. La conciencia solo se descubre a si misma mediante la reflexión, esto es, mediante el retorno a si a partir de la objetividad. En este retorno a sí misma la autoconciencia descubre la dinámica de la vida misma como proceso infinito de diferenciaciones. El deseo se dirige a lo viviente, a su semejante y se confronta con si en una lucha de vida o muerte.”
Así pues, partiendo de esta cita de Heinrich Hüni, quien a su vez recoge los planteamientos de la fenomenología del espíritu y el autoconocimiento Hegeliano, podemos ampliar el espectro sobre el cual se plasma el debate sobre la conciencia, y a su vez tener mas herramientas interpretativas que nos permitan trascender de la visión reduccionista inicial y cuestionarnos incluso nuestra concepción de humanidad.
Hola Pablo, quisiera comentar un par de cosas sobre tu entrada.
Con el argumento de la habitación china, Searle afirma que en la IA hay a penas una simulación de procesos cognitivos (lo que él llama inteligencia artificial débil), que para que exista una inteligencia artificial fuerte sería necesario replicar consciencia e intencionalidad, y desde los conceptos de intencionalidad primaria y secundaria argumenta que ésto es imposible de lograr. Cuando una máquina se comporta de forma inteligente y a través del Test de Turing se le juzga como consciente e intencional, esta intencionalidad (secundaria) en realidad está derivada de la intencionalidad (primaria) de su diseñador, sólo los seres vivos tendrían intencionalidad primaria. Dennett, sin embargo, responde a Searle diciendo que ni siquiera los seres vivos tendríamos intencionalidad primaria, pues en esos términos, nuestra intencionalidad estaría derivada de la de nuestro diseñador: la selección natural.
Saludos!
Haciendo eco en el comentario anterior y más allá de si la consciencia es algo propio nuestro en tanto resultado bilógico, o si por el contrario es simplemente el resultado de un sistema de interrelaciones y por tanto puede ser recreado.
Considero que la aparición de una reflexión moral es decisiva a la hora de entender un sujeto por consiente o no.
La cuestión que surge por si las maquinas con este nivel de desarrollo tendrían o no imputabilidad moral, se resuelve relativamente fácil, apelando a que antes de ser sujetos morales tendrían que desarrollar un nivel de intencionalidad que se salga de su programación algorítmica, alcanzar una especie de auto-consciencia y posterior autonormatividad.
En un experimento mental, donde le concedamos estas capacidades a una maquina en un futuro lejano, por ejemplo, cabría pensar en una protomoral entre productos de la inteligencia artificial, como androides muy avanzados, y surgen entonces las peguntas ¿Tendríamos nosotros obligaciones morales hacia este tipo de inteligencia? Luego de que estas máquinas instauraran entre ellas una las bases para una consciencia moral, ¿desarrollarían también ellas obligaciones morales con nosotros? ¿Tendrían, por ejemplo, que respetarnos la vida?
Hola Pablo. Comparto en primera instancia la tesis de Searle, según la cual dotar a un robot de conciencia significa proyectar nuestra propia intencionalidad en él y por eso su conciencia no sería el resultado de una interacción libre y espontánea con el entorno. Pero si es cierto que ya existen sistemas de autoaprendizaje basados en redes neuronales expandibles, tiene sentido decir con Chalmers que el robot Sophia ya expresa conciencia en tanto posee experiencias fenoménicas. No obstante, intuyo que dicha conciencia sigue siendo imitativa, muy lejana de lo propiamente humano en lo que respecta a sentimientos como el miedo, la alegría, la esperanza, la desazón y la incertidumbre frente al futuro. ¿Puede un robot tener conciencia sin la experiencia compleja de estos sentimientos?
Pese a que los argumentos pueden llegar a ser muy alentadores frente a la posibilidad de mentes artificiales, ¿cómo es posible solventar entonces le problema que poner Searle sobre la mese frente a la vaciedad que resulta la sola sintaxis? Para poseer conciencia es necesario un contenido, cosa que la mera sintaxis y las funciones formales que contienen las máquinas no poseen, en ese sentido, ¿Cómo ser optimistas frente a este tema cuando dichas máquinas contienen un código básico netamente formal frente a su modo de acción?
Es difícil imaginar que sea posible que un robot adquiera estados de conciencia similares a los humano, estoy de acuerdo con Searl en que las respuestas robóticas carecen de significado e intención y yendo un poco más allá, ¿Se podrá hablar también de imaginación y volición en el caso de Sophia?
¿Este tipo de maquina que razona puede hacer reflexiones profundas de tipo poético, literario y filosófico? o ¿estos pensamientos son exclusividad para conciencias humanas?
Procesos fenomenicos sin la experiencia , nos remite a discusiones donde se toma el extramado racionalismo como suficiente en el proceso cognitivo.
Los factores que impulsan a conocer y a procesar experiencias son un entramado de elementos que van desde la experiencia, historia hasta condiciones sociales, economicas. Minimizar estos factores empiricos es desconocer su importancia en el proceso cognitivo, Y no obstante juegan un papel esencial en la interconexion subjetiva para el conociemiento.
El hecho de sentir y todo lo que de la sensacion deriva, es una parte del conjunto de lo que es ser conciente.
Remitiendonos al caso de sophia puede entenderse en posibilidades de tener conciencia?
Sin haber sentido la gestacion, el nacimiento, el crecimiento circunstancias constituyentes de la conciencia de si. Como logra Sophia simular un proceso de desarrollo humano como los mencionados anteriormente, de forma progresiva, no de ipso facto como puede percibirse en la cotidianidad de Sophia, donde un dia se despierta y logra tener las conexiones entre conceptos cientificos sin haber experimentado un proceso de formacion academica y humana.
A donde quiero llegar es que el factor empirico es esencial en la constitucion de la conciencia sin este elemento Sophia seguiria siendo un computador que procesa informacion que se la ha dado debdio a una configuracion previa, hay un elemento que permite refutar las proposiciones cientificas que Sophia conoce, esta es la experiencia y la experiencia entendida como un conjunto de factores que impulsan al humano a conocer y a trascender de si tales como: Sentimientos , emociones, condiciones sociales , Condiciones Culturales , Condiciones Biologico Quimicas. Hay algo que falta y es que sin este complemento humano, no podemos hablar de conciencia sino de virtualidad programada.
El tema de “Sophia” es fascinante y permite, como bien lo expone el artículo, pensarse desde diversos puntos de vista. En lo particular, encuentro el argumento de Searle muy contundente cuando expone que un robot responde a un estímulo, pero dicha respuesta es carente de intención y significado, y cuando afirma que “nuestra conciencia está estrechamente relacionada con las especificidades de nuestra composición biológica”; un ejemplo de esto lo podemos encontrar en el miedo.
La neurociencia nos ha revelado que el miedo, ese instinto que nos alerta del peligro y nos prepara ante él, deriva de la acción de la amígdala cerebral sobre la glándula adrenal que segrega adrenalina, haciendo que el corazón se acelere y envíe sangre a las extremidades con el único objetivo de luchar o huir, dejando de paso nuestro rostro pálido. Pero saber este proceso físico no nos impide preguntarnos ¿A qué se debió internamente mi palidez en aquél momento? ¿Por qué consideré el saludo de aquel extraño como una amenaza? ¿Era su aspecto? ¿El hecho de que estuviese consumiendo marihuana? ¿Era el entorno de aquel barrio popular? Y si mi reacción habría sido distinta en otras circunstancias ¿Qué dice eso sobre mí? Y es en esas preguntas y respuestas donde aquella experiencia y su consecuente reacción física dan lugar a la conciencia, a ese conocimiento que tenemos o buscamos sobre nuestra propia existencia, y establece los significados que damos a los significantes de nuestra propia vida. Es por esto que encuentro el argumento de Searle muy apropiado para los robots, al menos hasta el punto donde están, que no logran ser más que una copia de las conductas humanas y donde “Sophia” podría explicar perfectamente la situación antes mencionada, pero como dice Searle “vacía de significado y de intención”.
Muchas gracias por el artículo Pablo, está muy interesante. Es difícil abordar estos temas sin caer en la superficialidad debido a la dificultad de precisar qué es la consciencia. Yo aquí me limitaré a abordar la consciencia desde su acepción más elemental y popular, es decir, la que parte de que la consciencia es el conocimiento que se tiene de la propia existencia y de la ajena, y del conocimiento de los estados y actos propios y ajenos. Aún así puede que mi comentario haga un eco positivo o negativo en las otras acepciones del concepto de consciencia.
Refiriéndome al caso humano, que considero es el más complejo de todos los sistemas, creo que habría que tener en cuenta que la consciencia no solo tiene vida debido a una relación causal íntima con el cerebro sino también gracias a factores de la totalidad del organismo que posibilitan a este último ser lo que es, es decir, le posibilitan tener ciertas características físicas particulares; de composición, temperatura, sequedad, humedad, tamaño, etc. No solo eso, sabemos también que esa totalidad orgánica está compuesta de complejísimos subsistemas que nos permiten obtener información del entorno y de la cual dará fe de alguna forma la misma consciencia. Aquí ya hay factores difíciles de replicar en un autómata debido a ciertas limitaciones impuestas por la lógica mecanicista.
Me adhiero en parte a la postura de Searle, pues considero que sí importa el material del que está hecho un organismo consciente. Si observamos los extremadamente complejos sistemas animales más avanzados (incluyéndonos) nos damos cuenta de que la composición de esa materia, para que tenga algún tipo de consciencia, comparte ciertas características elementales. No hemos conocido aún a seres con consciencia que en sus estructuras prime el metal, la madera o la roca, nuestro material es el producto de miles de millones de años de evolución, es muchísimo más que un pedazo de carne, por eso creo que el material sería un elemento fundamental a la hora de intentar producir un robot con consciencia. Por otra parte comparto la noción de Dennett cuando afirma que la consciencia depende del entramado u organización y función específica de cada elemento dentro de ese entramado. Aunaría esos elementos de ambas posturas. Viéndolo de esa manera sería mucho más complejo hacer coincidir en un robot el material, el orden y las funciones idóneas que se integren en un todo ideal, en un organismo autómata con consciencia.
Personalmente creo que la ciencia moderna está lejos de lograr darle consciencia a una máquina pero creo que si pueden llegar a crear un robot que pueda comportarse como uno de nosotros, como es el caso de Sophia. En ese sentido y haciendo girar un poco el foco del asunto, una pregunta y valiosas reflexiones que pueden surgir de estos autómatas avanzados es ¿cuánto podemos hacer nosotros sin consciencia?
Muchas gracias, Pablo. El tema de la conciencia es fascinante, más aún en relación a la tecnología. Sin duda, en un futuro no muy lejano este tema será mucho más relevante a medida que la inteligencia artificial sea más sofisticada. Ahora no solo vemos casos como «Sophia» o «Ameca», también hay artefactos de uso dometisco igualmente sorprendentes, como «Siri» o «Alexa» (dos asistentes virtuales). Podemos interactuar con las inteligencias artificiales a tal punto que resulta tan emocionante como pertubador considerar los avances venideros. Pero la «singularidad» será inevitable, en mi opinión.
¿Cuál crees que sea el críterio para definir que hemos llegado a la singularidad? Quiero plantear esta pregunta en cuatro partes, muy brevemente:
1. ¿Crees que sea al alacanzar un nivel de comprensión semántica tanto o más refinado que el del ser humano? Esto sería una suerte de versión optimista que contrasta con la postura de Searle (y si se me permite agregar, creo que también con el test de Turing).
2) ¿Crees que sea cuando la estructura funcional de las maquinas alcance tanta o más complejidad que la del ser humano? Este sería un críterio en favor de Dennett y los funcionalistas.
3) ¿Crees que sea cuando las maquinas logren la autodeterminación de su experiencia propia como algo unico y diferente de los demás seres? Y considero esto de un modo «fuerte», es decir, no bastaría con preguntarle a la maquina si sabe que es diferente. Habría que considerar, más bien, una suerte de convencimiento genuino por parte de la maquina. De cualquier modo, esta pregunta reune algunos de los elementos que has mencionado en torno a Chalmers.
4) ¿Crees que haya otra alternativa? Y en tal caso, ¿cuál sería?
¡Muchas gracias!
Es curioso ver cómo los desarrollos tecnocientíficos ponen en tela de juicio las
concepciones de lo que se ha entendido por conocencia. El caso de Sophia muestra, como
bien lo indica Pablo, que este tipo de seres pueden tener un tipo de conciencia rudimentaria.
En parte estoy de acuerdo con la afirmación, pero me pregunto por el tipo de conciencia
que pudiesen tener los robots en el futuro. El panorama lo veo dividido en dos. Primero
como implantación. Esta robot “nació” con una arquitectura prediseñada, la cual se expresa
en algoritmos que controlan cómo interactúa con el mundo; tiene resultados esperados, que
para los casos futuros darían cuenta de una lista de acciones correspondientes a lo que se
entienda en el momento por conciencia. En segundo lugar, ¿si se supere la barrera de lo
rudimentario, y los robots como Sophia puedan imitar con mucha precisión nuestros
comportamiento, simular nuestras conductas les haría un seres conscientes?
Es curioso ver cómo los desarrollos tecnocientíficos ponen en tela de juicio las
concepciones de lo que se ha entendido por conocencia. El caso de Sophia muestra, como
bien lo indica Pablo, que este tipo de seres pueden tener un tipo de conciencia rudimentaria.
En parte estoy de acuerdo con la afirmación, pero me pregunto por el tipo de conciencia
que pudiesen tener los robots en el futuro. El panorama lo veo dividido en dos. Primero
como implantación. Esta robot “nació” con una arquitectura prediseñada, la cual se expresa
en algoritmos que controlan cómo interactúa con el mundo; tiene resultados esperados, que
para los casos futuros darían cuenta de una lista de acciones correspondientes a lo que se
entienda en el momento por conciencia. En segundo lugar, ¿si se supere la barrera de lo
rudimentario, y los robots como Sophia puedan imitar con mucha precisión nuestros
comportamiento, simular nuestras conductas les haría un seres conscientes?