Robots, lenguaje, pensamiento / Sudo Null IT News
Escribo este texto en el contexto de avances significativos en el campo de los modelos de lenguaje, en particular ChatGPT, los asistentes de voz Siri, Cortana, Alice y otras tecnologías de inteligencia artificial. Al mismo tiempo, surgen un gran número de pronósticos optimistas de que, de una forma u otra, las máquinas adquieren capacidades mentales y se parecen cada vez más a los humanos.
En consecuencia, me gustaría ofrecer algunas ideas sobre hasta qué punto los avances en diversos tipos de modelos de lenguaje y asistentes de voz están acercando las máquinas a los humanos, y también sobre si en general es justificable afirmar que tales máquinas pueden pensar.
A mediados del siglo pasado, el matemático británico Alan Turing propuso que el problema de recrear o simular las capacidades mentales generales de los humanos podría resolverse mediante el desarrollo de una máquina capaz de comunicarse en lenguaje natural. Por un lado, este fue un paso muy exitoso para detener los debates abstractos sobre el pensamiento artificial y avanzar hacia al menos algunas soluciones prácticas, pero, por otro lado, desde entonces se ha observado muchas veces que la conexión entre el pensamiento y el lenguaje Esto está lejos de ser tan obvio como podría parecer a primera vista.
La objeción más conocida a comprobar el pensamiento de una máquina mediante el diálogo con una persona es la llamada. “La habitación china”, un experimento mental del filósofo estadounidense John Searle. Este experimento mental demuestra que los mensajes en sí no necesariamente vienen con una mentalidad predeterminada.
Propongo volver a mirar estos dos conceptos básicos porque me parece correcta la idea de que el lenguaje humano es la clave del pensamiento; pero al mismo tiempo, también es cierto señalar que no toda comunicación es equivalente a la comunicación humana, independientemente de la calidad de la formación de las respuestas.
No creo que se pueda dar una respuesta clara a la pregunta sobre la posibilidad fundamental del pensamiento artificial, pero en relación con los modelos de lenguaje modernos no es difícil mostrar por qué, a pesar de los impresionantes resultados, tales máquinas no sólo no muestran ninguna signos de pensamiento, pero ni siquiera entabla un diálogo con una persona.
“Prueba de Turing”
El famoso artículo de Alan Turing “Computing Machinery and Intelligence” (1950) comienza con la pregunta “¿pueden pensar las máquinas” y propone un “juego de imitación” o “prueba” que se parece a esto?
En la prueba participan tres personas: el hombre A, la mujer B y el encuestador C, cuyo género no importa. La encuesta C se coloca por separado del hombre A y la mujer B. El objetivo del juego de la encuesta C es determinar, basándose en los resultados del diálogo con las personas A y B, cuál de ellos es un hombre y quién es una mujer. El encuestador puede etiquetarlos 1 y 2 para informar al final del juego que “1 es A, 2 es B” o “1 es B, 2 es A”. Por ejemplo, un encuestador podría preguntar: “Por favor, dime ¿cuánto largo tienes el cabello”? Supongamos que 1 es A y que el objetivo de A es engañar de alguna manera a C. Por lo tanto, la respuesta podría ser algo como esto: “Mi cabello mide unos 25 cm de largo”. Para evitar que la voz delate a la persona entrevistada, las respuestas se pueden dar por escrito. A continuación, supongamos que B intenta ayudar al entrevistador y da respuestas veraces a las preguntas, y además añade afirmaciones como “soy mujer, no le hagas caso”. Sin embargo, el hombre A puede realizar fácilmente acciones similares. A continuación, debemos imaginar que se podría llevar a cabo una prueba similar con la participación de la máquina A, el hombre B y un interrogador humano C. ¿Es posible imaginar que la máquina sea capaz de realizar acciones similares fácilmente? para engañar con éxito al interrogador C durante un diálogo, y ¿es posible utilizar dicha tarea para reemplazar la pregunta original “¿puede pensar una máquina”?
Cabe señalar aquí que, a pesar de la simplicidad de la formulación del problema, presupone una serie de afirmaciones implícitas sobre el lenguaje y el pensamiento, por ejemplo, que el lenguaje va acompañado del pensamiento, que una máquina puede comunicarse de manera similar a una persona. , etc. Por lo tanto, para una mayor discusión, es extremadamente importante comprender exactamente cómo está estructurada una máquina estándar que admite la comunicación en lenguaje natural (en lo sucesivo, el “sistema de diálogo”) y qué hace exactamente.
En su forma más simple, un sistema conversacional típico puede describirse en términos de un modelo de caja negra e incluye tres componentes principales: un receptor de entrada y un convertidor digital, un procesador de datos digitales, un convertidor de salida analógico y un transmisor de salida. De hecho, el principio de diseño de un sistema de diálogo se basa en la idea de que la comunicación humana en lenguaje natural puede describirse como un proceso de codificación y decodificación de mensajes de señales.
Sorprendentemente, muchas discusiones ingenuas sobre el pensamiento de los sistemas de diálogo ignoran el simple hecho de que los sistemas de diálogo modernos actualmente no implementan ninguna otra funcionalidad además del intercambio de mensajes de señalización. Al mismo tiempo, ya en el artículo de Alan Turing se señala que una máquina pensante condicional debe resolver una gama más amplia de problemas, además de los puramente comunicativos: trabajar con los órganos de percepción del mundo circundante, aprender por analogía con un niño. , resolviendo problemas abstractos, como jugar al ajedrez, etc.
Debe entenderse que en un sistema de diálogo moderno no tiene sentido hacer preguntas que requieran habilidades extracomunicativas adicionales, por ejemplo, “¿qué ves ahora?” En este caso sucederá algo como esto: la afirmación “¿qué ves ahora?” se convertirá en una determinada secuencia numérica, luego la máquina resolverá el sistema de ecuaciones y determinará las secuencias numéricas que serán la base para la formación de respuestas a la declaración original. Dado que responder a tal pregunta requiere que la máquina resuelva un problema que va más allá del intercambio de mensajes de señalización, los diseñadores de modelos de lenguaje pueden especificar una serie de estrategias de comunicación para evitar generar un simple mensaje de error: pueden notificar al usuario que la máquina no tiene tales capacidades, puede formular una pregunta sobre los propósitos comunicativos del mensaje original, puede formular un comentario humorístico, etc.
Y, sin embargo, la idea misma de pensamiento artificial sugiere que el pensamiento humano puede representarse como algún tipo de manipulación de señales con una serie de funciones adicionales: percepción del mundo circundante y resolución de problemas de aprendizaje de métodos racionales de actividad.
“habitación china”
La “Sala China” es también un experimento mental propuesto por John Searle en el artículo “Minds, Brains and Programs” de 1980. Este experimento mental representa un contraargumento o crítica a la propuesta de Alan Turing y señala las dificultades fundamentales asociadas con resolver el problema de crear una máquina pensante basada en un sistema de diálogo.
El autor sugiere imaginar una habitación aislada con una persona dentro que no sabe chino y, en consecuencia, no comprende la escritura china. Esta sala contiene muchas instrucciones sobre cómo manejar caracteres chinos como “tome tal o cual carácter de la canasta número 1 y colóquelo al lado de tal o cual carácter de la canasta número 2”, pero no proporciona ninguna explicación. del significado de los propios personajes.
Un sujeto externo a la sala, que habla chino, transmite mensajes escritos en chino a través de una ranura dentro de la sala, esperando recibir algún tipo de respuesta. La persona dentro de la habitación sigue mecánicamente las instrucciones “para el jeroglífico X, proporcione el jeroglífico Y” y transmite la respuesta al sujeto externo de la misma manera.
A primera vista, esta crítica al “Prueba de Turing” sólo funciona en relación con los sistemas de diálogo, que son exclusivamente sistemas de diálogo de señalización y no están equipados con órganos de percepción y resolución de problemas lógicos, pero se puede observar que la “Sala China” Al concepto poco claro de “pensar” se suma que “comprender” es una indicación de una cierta presencia básica de significado en un enunciado lingüístico humano, que no surge en el caso de una compilación mecánica de la forma externa de los enunciados lingüísticos según un conjunto de reglas dado.
Aquí debemos subrayar el primer rasgo importante de la comunicación humana, que ya se ha mencionado varias veces y que a veces se pierde de vista, a pesar de su obviedad: el habla humana no se reduce exclusivamente a un proceso cerrado de intercambio de señales, sino que va acompañada de el trabajo de un conjunto de funciones mentales individuales, principalmente la percepción y el pensamiento.
El habla humana puede describirse de forma simplificada como un proceso de interacción de señales, si para algunos fines (por ejemplo, comparación de lenguajes naturales) no es necesario considerar la conexión del habla con el pensamiento y la percepción, pero tal movimiento no hacer del habla humana algo separado de las correspondientes funciones mentales individuales. Por el contrario, no es necesario atribuir automáticamente funciones mentales individuales a un sistema de diálogo, sólo porque puede generar respuestas de alta calidad a preguntas humanas, especialmente cuando los desarrolladores no resolvieron otros problemas además de la interacción de señales.
Para no confundir el lenguaje humano con el lenguaje de los chatbots y asistentes de voz, estos últimos pueden designarse con otro término, por ejemplo, “código de señal” (por analogía con cómo E. Benveniste sugiere hacer esto en relación con los animales en el artículo). “La comunicación en el mundo animal y el lenguaje humano”). Pero si en el caso de los animales esta cuestión es un poco más complicada, en el caso de las máquinas un “código de señales” puede entenderse como un conjunto de reglas para decodificar, procesar y generar señales sonoras o gráficas idénticas a las de los signos del lenguaje humano.
Además de la naturaleza compleja mencionada anteriormente del lenguaje humano, cabe señalar una segunda característica importante: el lenguaje humano, y después el pensamiento, es intersubjetivo y no representa algo autosuficiente. La adquisición del lenguaje y el desarrollo inicial sólo son posibles en una comunidad y nunca se observan en un individuo separado de la comunidad, es decir, La imitación o reproducción del lenguaje y el pensamiento humanos requiere el desarrollo no de una sola máquina, sino de una comunidad condicional de máquinas.
Conclusión
Es importante entender que la pregunta de Alan Turing se plantea en dos niveles: ¿es posible desarrollar una máquina que pueda comunicarse en lenguaje natural de manera similar a la humana, y es posible responder así a la pregunta original “¿puede una máquina pensar? “
Dicho esto, hay dos maneras de responder a esto.
Si las funciones de una máquina se limitan únicamente a decodificar y codificar señales, entonces esto no tiene nada que ver con el pensamiento. El significado de las respuestas de tal máquina aparece de la misma manera que el espacio en un espejo, es decir. sólo porque una persona lo ve por costumbre. Por lo tanto, cualquier sistema de diálogo moderno se puede comparar con una grabadora convencional, la única diferencia es que dicha grabadora está equipada con una gran cantidad de botones y una computadora para calcular la secuencia de su activación.
La segunda respuesta es mucho más complicada. Digamos que entendemos que para reproducir o imitar el pensamiento humano en una máquina se requiere más funcionalidad que puramente comunicativa. En primer lugar, será necesario desarrollar un grupo de máquinas capaces de funcionar individual y colectivamente, y cada máquina deberá estar equipada con órganos sensoriales, una unidad de comunicación y una unidad lógica.
El problema es que tanto el lenguaje humano como las funciones mentales individuales del ser humano existieron mucho antes de cualquier forma de describirlos. En consecuencia, términos como “pensamiento”, “conciencia”, “comunicación”, etc. son más bien una indicación abstracta de algunos aspectos de la vida inteligente natural. En sí mismo, no es obvio que estos aspectos puedan describirse de manera completa y, a su vez, la idea de que a través de un análisis lógico y filosófico del pensamiento y el habla humanos se pueda en última instancia formular una especificación técnica para el desarrollo de la inteligencia artificial condicional es no es obvio.
No hay nada de malo en entender a una persona como una “caja negra” compleja, pero no hay bases objetivas para entender a una persona como una computadora digital que consta de software y hardware, cuyo funcionamiento puede formalizarse y calcularse por completo.
Por paradójico que pueda parecer, la cuestión de la posibilidad del pensamiento artificial no es una cuestión práctica, sino teórica, y por el momento no existen métodos claros para resolverla. Esto da como resultado que el nombre “inteligencia artificial” se utilice ampliamente para llamar la atención sobre un desarrollo particular, pero en realidad no tiene nada que ver con la inteligencia humana ni siquiera con la propuesta original de Alan Turing. Puedes presentar cualquier argumento filosófico a favor de lo contrario, pero esto no dará como resultado que la inteligencia aparezca en una máquina, así como los debates teóricos frente a un espejo no crearán un espacio en el que puedas entrar.
