________________ CUU �•� ...... ,QlTINA _______________ _ MAQIBNACULTURA
ORDENADOR E
INTELIGENCIA
Daniele Barbieri
H ubo una época en la que se discutía sobre el sexo de los ángeles. Era una discusión empantanada y académica entre filósofos bizantinos, pasados a la histo
ria -ellos y el debate- como ejemplos de quisquillosa inutilidad. Pero como nada se da sin razón es evidente que también el discutir sobre un tema evidentemente indecidible como aquél tendría la suya. No es más fácil aceptar esta idea si reflexionamos sobre el hecho de que ese tema es obviamente indecidible para nosotros, mientras posiblemente para ellos la imposición de alguna solución fuese sólo cuestión de tiempo (el tiempo que la verdad necesita para salir adelante). Y con el tiempo, de hecho, ha llegado una respuesta, pero no a favor de una u otra parte. Trasnochados los motivos -políticos- de la necesidad de semejante debate, su misma esterilidad lo ha matado, lo ha puesto a un lado.
Quizá algo de esto comienza a ocurrir también en el debate sobre la así llamada Inteligencia Artificial fuerte: el debate sobre la posición de los estudiosos que mantienen que un ordenador, convenientemente programado, puede ser, en el sentido pleno del término, una mente como la mente humana. Este debate ha provocado en los últimos años polémicas muy encendidas, que han culminado con el ya histórico artículo de John Searle Menti, cervelli e programmi, con las reacciones provocadas como ejemplo en el volumen del mismo título editado por Graziella Tonfoni con Clup-Clued, 1984. Si algo se ha aclarado en este debate es precisamente la ausencia, por ambas partes, de argumentos que se puedan considerar concluyentes a favor o en contra de la Al fuerte.
Dos libros me han conducido a reflexionar sobre el profundo malentendido teórico que hay en la base de este debate, un malentendido común tanto a los defensores como a los detractores de la mente artificial, incluido John Searle. Se trata de una parte de un viejo libro de Joseph W eizenbaum, uno de los padres de la Al, (JI potere del computer e la ragione umana, Torino, 1987), traducido y editado recientemente en Italia; por otra, de la ya clásica colección de ensayos sobre la complejidad realizada por Bocchi y Ceruti (La sfida della complessita, Milano, 1985).
Estos dos libros tienen en realidad poco en común, y en ninguno de los dos se encuentra el discurso que yo me propongo seguir, pero no habría llegado a este discurso si no me los hubiera encontrado juntos. Me ha parecido singular que en dos contextos tan diferentes aparezca el mismo término, y en ambos casos como punto central de la argumentación. Weizenbaum habla de hybris de la intellighenzia artificiale, como adhesión recurrente de los estudiosos de la Al «a la conclusión de que están próximos a una comprensión teórica general del universo; o también a la conclusión de que han demostrado, en vista de que sus máquinas funcionan, la validez de la idea de que las leyes del universo se pueden expresar en términos matemáticos». Ceruti, no muy lejano de esto, habla de hybris de la omnisciencia, poniendo el acento en la finitud del conocimiento humano, y en el hecho de que la consideración de la posición del observador en la investigación científica hace problemática cualquier pretensión de imparcialidad en la actividad cognoscitiva.
Del libro de W eizenbaum, en general interesante y muy clarificador en todas sus partes, quisiera tomar en consideración dos momentos. El primero atiende a una distinción muy importante para los adeptos a los trabajos de la Al, la de régimen de presentación y régimen de simulación (peiformance mode y simulation mode). Para quien trabaja en régimen de prestación lo que cuenta es la eficiencia del programa; poco importa, por ejemplo, que un programa de traducción automática se comporte de manera similar al comportamiento de un hombre realizando la misma operación; lo importante es que funcione, y del modo más eficiente posible. En régimen de simulación, sin embargo, la eficiencia es poco relevante, y lo que cuenta es la semejanza con el proceso que se pretende simular. La mayor parte de las personas que se ocupan de la Al trabaja en todo caso en régimen de prestación.
El segundo momento atañe al discurso de la base fisiológica. Nos dice Weizenbaum (y desde 1976, año de aparición de este libro en América, lo hemos oído repetir a menudo) que el ser humano ( cada uno de los seres humanos en el curso de su propia historia individual) viene definido por los problemas que encuentra; una gran parte de estos problemas está ligada a su biología, a su ser constituido de materia blanda y organizada de cierto modo. Por mucha inteligencia que podamos dar a un ordenador, por muy fina que pueda ser su simulación de los procesos neuronales humanos, el ordenador no podrá
00000000000000000000000000000000000000000(
68
00
69
•••••••••••••
•••••••••••••
•••••••••••••
nunca sentir de la misma manera que el ser humano siente; y por razones que no incomodarán a ninguna mística de la irracionalidad (a la que, sin embargo, parece acercarse Weizenbaum de vez en cuando), ni a ningún espiritualismo. Sepultados en nuestro inconsciente, hay una serie de conocimientos de base que dependen profundamente de nuestra primitiva interacción con el mundo en cuanto seres hechos de carne; consecuentemente, y en tanto que a un ordenador le enseñamos a aprender, todo lo que está ligado a su estructura física será para él diferente de lo que es para nosotros.
Partamos ahora de la idea básica de los teóricos de la complejidad, de la fundamental presencia del observador en la valoración de lo observado. Fundamental presencia del observador significa fundamental presencia en sus fines cognoscitivos, significa, como Ceruti hace notar, que no podemos salir nunca de la dinámica observador-observado para sobrevolar el mapa del saber; y que en consecuencia el conjunto de los conocimientos que del mundo tenemos no atañe a ninguna realidad absoluta, conocida «por lo que es», sino simplemente a nuestra relación operativa con esa realidad, a nuestra necesidad de modificarla para nuestros fines. En otras palabras, conocemos la realidad en relación con nuestros fines y valoramos la eficiencia de un modelo no tanto según su semejanza con la realidad sino más bien según su semejanza con aquellos aspectos de la realidad que nos son útiles, desentendiéndonos de todos los demás; podríamos definir esta semejanza como una «identidad bajo consideraciones pertinentes» (y nuevamente la pertinencia se relaciona con la finalidad).
Valoramos además la eficiencia de un producto manufacturado según su capacidad de ayudarnos a resolver problemas específicos (sin crearnos con esto otros muchos).
En suma, sin una finalidad intrínseca no existe conocimiento y no existe tecnología. No se construye nada si no se aclara previamente el fin con que se construye y no se valora después su eficiencia con el criterio del éxito en su objetivo. Pero, y aquí llegamos al nudo que nos interesa, ¿a qué fin de nuestra existencia está ligada la existencia del hombre? Por lo que a mí mismo respecta, ¿con qué fin existen los demás seres humanos?, ¿con qué fin yo los percibo?
En el momento en que yo definiera (aunque fuera de forma sumamente compleja) una finalidad del hombre en la que poderlo reconocer completamente, aceptaría la posibilidad teórica de una simulación artificial, más aún, de una re-
producción artificial. El problema, de ahí en adelante, sería solamente técnico (aunque ciertamente de enorme complejidad). Pero, en la perspectiva que estamos exponiendo, en el momento en que yo hubiera definido una finalidad del hombre en cuyos términos se pudiera reconocerlo in toto, habría definido también una finalidad cognoscitiva mía propia, sobre cuya base habría podido dar esa definición. De nuevo, no habría definido al hombre, sino sólo lo que de él me sirve, de igual manera que los modelos científicos no definen la naturaleza sino sólo lo que de ella les sirve.
El caso es que, mientras resulta relativamente pacífico conocer la naturaleza sólo en relación a lo que de ella nos sirve, no se puede decir lo mismo del hombre: cuando se habla de él todo objeto de conocimiento es a su vez un sujeto que puede tener opiniones propias y, por tanto, finalidades cognoscitivas diferentes de las nuestras. El automóvil es un óptimo sustituto del caballo, si el fin es el de trasladarse; los diamantes artificiales son óptimos sustitutos de los naturales para muchos fines, seguramente todos los que tenemos hoy por hoy, pero esto no significa que automóvil y caballo o diamantes artificiales y naturales sean absolutamente intercambiables, como bien saben los comerciantes. Nada es intercambiable del todo con otra cosa, la intercambiabilidad es siempre relativa a algún fin.
En los sistemas totalitarios el hombre es verdaderamente reducido a un conjunto de fines precisos, según la finalidad cognoscitiva de quien detenta el poder. Podríamos definir la democracia como la ausencia de privilegios de los fines cognoscitivos de cada uno en confrontación con los de los demás. La democracia es un contrato entre iguales, donde cada uno reconoce el derecho de todos los otros. Pero este contrato excluye necesariamente a «alguno», excluye a los no hombres.
Hasta hace poco más de un siglo en muchas democracias la calificación de hombre no era reconocida a quien tenía la piel negra; su existencia podía ser tranquilamente reducida a un conjunto de finalidades. El esclavo, de hecho, existe en función de su utilidad, no tiene derechos porque está fuera del contrato. Ningún razonamiento concluyente podía entonces demostrar el derecho a la igualdad de los que tenían la piel negra, porque no se puede demostrar su pertenencia a un conjunto (el de los hombres) cuya definición es necesariamente huidiza. El único sistema para entrar en el contrato entre iguales era el de imponer políticamente la propia entrada, obligando a una colectividad a renunciar a la
0000000000000000000000 00000000000000000001
70
pretensión de la propia finalidad cognoscitiva en relación con la comunidad sometida.
Para volver al debate sobre la Inteligencia Artificial, encuentro que en algunos momentos tal debate recuerda al del sexo de los ángeles, en cuanto que parte del presupuesto implícito (tanto en quien afirma como el que niega) de que es posible conocer o no-conocer la naturaleza de manera concluyente. Contrariamente a lo que la mayor parte de estos estudiosos piensan el problema de la máquina inteligente o no inteligente no es un problema filosófico en sentido estricto, que se pueda resolver sobre el pupitre, como no lo era el problema de la humanidad de los negros o de la humanidad de las mujeres, o como no lo es el problema de la humanidad de cualquier ser humano.
No hay ningún problema mientras consideramos que las máquinas son aparatos útiles para simular características específicas de nuestro pensamiento; pero en el momento en que suponemos que pueda haber en ellas una inteligencia, o sea, un derecho a entrar en el contrato, el problema se hace político porque se convierte en el problema de su imposición o de que alguien las imponga, ya que tienen derecho a su propia finalidad cognoscitiva, que las exime de subyacer totalmente a la finalidad cognoscitiva de los humanos.
Dicho esto, no tiene ya ninguna importancia que la inteligencia de estas máquinas tenga semejanza alguna con la humana. El problema de los resultados del régimen de prestación y el de soporte no biológico son problemas que no tienen nada que ver con el del reconocimiento de una inteligencia, aunque sigan teniendo que ver con el estudio de la mente humana.
En suma, construcción de máquinas inteligentes y su reconocimiento en cuanto tales, por una parte; y reproducción de la inteligencia humana, por otra, son problemas diferentes: próximos, pero que no hay que confundir. Si tanto se discutió en tiempos sobre el sexo de los ángeles, quizá fue porque aquella discusión centraba la atención sobre la necesidad de una profundización filosófica sobre un tema todavía joven pero mucho más vasto, como era entonces el de la religión cristiana: los otros problemas le traían sin cuidado. Y diría que el meollo de la Inteligencia Artificial está precisamente ahí: al final no es una discusión sobre el problema en sí, sino, quizás, el entusiasmo de una nueva disci- _..-.. plina, y, en todo caso, la relación entre �conocimiento y poder. �
(Traducción: Alfredo Martínez Expósito)
)000000000000000000000
71
TRANSPORTE DE
VIAJEROS EN
AUTOCAR
LINEAS
PROVINCIALES,
NACIONALES E
INTERNACIONALES OVIEDO
Plaza Primo Rivera, 1 Teléfono: 985/281200
Télex: 84356
Wll/A\iJ1rn:� �rn.�:m@�1 �"�'' Grupo A•Título3
WilMG!.\\
EXCURSIONES,
RUTAS TURISTICAS,
CONGRESOS,
CIRCUITOS
NACIONALES E
INTERNACIONALES
UNA ORGANIZACION AL SERVICIO
DEL VIAJERO
AEROPUERTO DE ASTURIAS
OVIEDO GIJON
MADRID LEON
AVILES
BILBAO
Top Related