Artículos

 

La dualidad del Problema de marco: Sobre interpretaciones y resoluciones

 

The duality of the frame problem: About interpretations and resolutions

 

María Inés Silenzi

 

Universidad Nacional del Sur/Conicet. ines_silenzi@hotmail.com

 

Recibido: 29 - 04 - 2014.
Aceptado: 28 - 08 - 2014.

 

Resumen

El problema de marco, interpretado como un problema de determinación de la relevancia, ha sido motivo en las décadas de los 80-90' de grandes debates y controversias. La cuestión clave de este trabajo consistirá en dilucidar la relación que entre la dificultad definicional y resolutiva del problema de marco se establece:  es  necesario  aclarar  la  interpretación  particular  que del problema de marco se tenga en mente antes de estimar cualquier solución que intente resolverlo. Una manera de abordar esta cuestión es describir algunas de las varias interpretaciones que del problema se han propuesto y analizar luego las dificultades subyacentes. Al igual que Lormand (1991) sugerimos que cada una de estas interpretaciones se refiere a un problema distinto y que es necesario atender a las diferencias que entre éstas se establecen antes de estimar cualquier propuesta de resolución.

Palabras clave: problema de marco lógico; problema de marco filosófico; dificultad definicional; dificultad resolutiva.

 

Abstract

Broadly construed as a problem related to relevance, the frame problem has been the center of important debates and controversies in the decades of the 80' and 90'. The key issue of this article will be to clarify the relationship between two difficulties affecting the frame problem, namely, the definitional difficulty and the resolution difficulty: before assessing any solution to the frame problem, it is necessary to specify the particular interpretation of the problem one has in mind. One way to address this issue is to describe the various interpretations of the problem, and then to analyze the underlying difficulties. Like Lormand (1991), we suggest that each of these interpretations refers to a different problem and that it is necessary to address these differences before assessing any proposed solution.

Key words: logic frame problem, philosophical frame problem, definitional difficulty, resolute difficulty.

 

§1. Introducción

El problema de marco (frame problem), interpretado como un problema de determinación de la relevancia, ha sido motivo en las décadas de los 80'-90' de grandes debates y controversias. Sin embargo, este problema ha resurgido en la actualidad, convirtiéndose en un problema vigente dentro de las Ciencias Cognitivas. Una de las principales controversias que aún rodean a este problema es la dificultad de definirlo. En efecto, al examinar la literatura sobre el problema de marco, se puede observar que la mayoría de las veces se menciona, especialmente al principio de cada tratamiento particular del problema, la complicación de definirlo. A esta dificultad la llamaremos dificultad definicional.

En efecto, ya se pueden encontrar en los clásicos compilados de Pylyshyn (1987), Brown (1987) y Ford y Pylyshyn (1996), entre otros, la mención de esta dificultad y los debates que en torno a ella se han suscitado durante la década de los 80'-90'. Ford y Hayes (1991) toman como punto de partida para su análisis la discusión entre Fetzer (1991) y Hayes (1991) acerca de la naturaleza del problema de marco, analizando cada uno de los argumentos y contraargumentos que frente a las distintas definiciones del problema se sostienen. Lormand (1991), a propósito de esta misma dificultad, titula su artículo Framing the Frame Problem resaltando la misma controversia: "why should one suppose that what they are talking about is the frame problem, and why should one suppose that it's a problem?" Perlis (1990) ha encontrado hasta dieciséis definiciones distintas del problema de marco, mientras que van Brakel (1992, 1993) propone una lista de definiciones y una familia de problemas relacionados con el problema de marco. Morgenstern (1996, p. 107) titula precisamente una sección de su artículo What the Frame Problem Really is and What the Frame Problem Was Taken to Be? y Stein (1990) utiliza una metáfora que refleja claramente la confusión que se plantea al querer definir el problema de marco: "a definition of the "frame problem" is harder to come by than the Holy Grail." Pero no sólo la dificultad definicional del problema de marco ha sido motivo de debate, sino que también lo ha sido la posibilidad de solucionarlo, es decir, ha sido polémica su dificultad resolutiva. Para Haselaguer y Van Rappard (1998) el problema de marco ha llevado a caóticos debates, pues no sólo parece haber poco acuerdo sobre qué es exactamente el problema del marco, sino también sobre cómo debe ser resuelto. Fodor (2008) va incluso más allá pues afirma que no está muy claro qué sería una solución al problema de marco, si es que éste es un problema y si es que hay alguna solución.

Tal vez sea oportuno, a propósito de la dificultad resolutiva del problema de marco, ampliar la relevancia actual de este problema dentro del campo de las Ciencias Cognitivas. En efecto, la dificultad mencionada ha despertado un renovado interés en los últimos años. Muestra de ello son los últimos libros de Fodor (2003, 2008) quien retoma el problema de marco (ya tratado por él anteriormente en 1986) criticando algunas estrategias actuales para su resolución, como lo es el uso de las heurísticas. De manera general, el uso de heurísticas aparecería como el principal candidato para aliviar la carga computacional en la determinación de la relevancia y con ello, para resolver el problema de marco (Carruthers 2006a, 2006b; Evans, 2009; Samuels 2005, 2010; Samuels y Stich, 2004 y Samuels et al. 2002, entre otros).

Ciertamente, y para dar cuenta de la discusión relevante y vigente del problema de marco dentro de la investigación cognitiva, el uso de las heurísticas como estrategia para explicar nuestros procesos cognitivos es actualmente de gran interés, especialmente en el área de psicología cognitiva. Más precisamente, dos programas de investigación rivales en psicología cognitiva como lo son el de Heurísticas y Sesgos (liderado por D. Kahneman) y el de Heurísticas Rápidas y Frugales (liderado por G. Gigerenzer) apelan al uso de heurísticas para explicar regularidades empíricas de razonamiento y decisión y algunos problemas filosóficos claves como lo es el problema de marco (Gigerenzer, 2007; Gigerenzer y Selten, 2001; Gilovich et al. 2002 y Kahneman y Tversky, 1996, entre otros).

También podemos observar dentro de la investigación empírica-cognitiva el renovado interés del problema de marco, especialmente dentro del campo de las neurociencias. La capacidad explicativa de los modelos psicológicos se ha visto limitada, entre otras varias cuestiones, por la aparición de algunos problemas que reflejan su insuficiencia para dar cuenta de, por ejemplo, la dinámica de aquellos procesos cognitivos relacionados con la forma en que los seres humanos determinamos relevancia. El problema de marco, entendido como un problema de relevancia, refleja tal insuficiencia y desde el campo de las neurociencias, se intenta resolverlo. (Dehaene y Naccache, 2001; Dehaene et al., 2001, 2003; Schneider, 2007, 2011 y Shanahan y Baars, 2005, entre otros).

Pero no es el objetivo de este trabajo atender en detalle ni a la dificultad definicional ni resolutiva por separado, sino a la relación que entre ambas se establece. Sostenemos que es necesario tener en claro la naturaleza del problema de marco que se tiene en mente (dificultad definicional) antes de poner en consideración la aptitud de algunas propuestas de resolución (dificultad resolutiva). La cuestión clave de este trabajo consistirá pues en dilucidar la relación que entre ambas dificultades se establece. Una manera de abordar esta cuestión es describir dos de las varias interpretaciones que de este problema se han propuesto, el problema de marco lógico (§2) y el problema de marco filosófico (§3), y analizar luego las dificultades subyacentes. De acuerdo con algunos autores (Lormand 1991; Shanahan 2009, Morgenstern, 1996 y Ross, 1990, entre otros) sugerimos que ambas interpretaciones se refieren a problemas distintos y que es necesario atender a las diferencias que entre ambas se establecen antes de estimar cualquier solución (§4). Finalmente, en los comentarios finales, se repasará brevemente lo expuesto y se presentarán algunas conclusiones a la luz de lo desarrollado en los apartados precedentes (§5).

 

§2. El problema de marco lógico

Comencemos por describir el problema de marco lógico o también llamado problema de marco original, pues existe un acuerdo general en que es en la Inteligencia Artificial en donde este problema se ha originado. Es común encontrar en la literatura sobre el problema de marco que el mismo se formula por primera vez en el artículo Some Philosophical Problems from the Standpoint of Artificial Intelligence (McCarthy y Hayes, 1969) a propósito del cálculo de situaciones. En este apartado describiremos en detalle tal formulación y atenderemos a las dificultades que le dieron origen.

En varias discusiones formales acerca de la interpretación del problema de marco lógico se introduce, para explicar la estructura lógica del problema, el "mundo de los bloques". Utilizaremos la misma estrategia para introducirlo, pero para hacerlo resulta necesario describir antes lo que se conoce como el "cálculo de sustituciones", una instancia de la lógica formulada especialmente para describir el cambio, o en otras palabras, para representar los efectos de las acciones (McCarthy, 1963). Para comprender mejor de qué trata este cálculo es conveniente atender a su "ontología", la cual incluye situaciones, acciones y fluentes.

Las situaciones (s) pueden entenderse como fotos instantáneas del mundo o, dicho de otra manera, como un completo estado del universo en un momento dado del tiempo. Los fluentes (f) pueden ser entendidos como una función cuyo dominio es el espacio Sit de situaciones, tomando éstos distintos valores en diferentes situaciones. Éstos pueden también ser pensados como "as a time-varying properties". Por último, las acciones (a) son un medio por medio de las cuales, al cambiar el valor de algún fluente, se generan nuevas situaciones basadas en las anteriores. El lenguaje del cálculo de situaciones también incluye el predicado Se tiene (Holds), que relaciona determinado fluente con aquellas situaciones donde éste es verdadero, y la función Resultados que expresa la situación resultante de la ejecución de una acción en una situación determinada.

Tal vez, el ejemplo del "mundo de los bloques", facilite la comprensión de las nociones recién descritas. Veamos la Figura 1 donde se muestra una situación particular que puede ser descrita utilizando la terminología propuesta. En esta situación se encuentran dos bloques apilables y lo que se intenta describir son los efectos de mover los bloques. Inicialmente se tiene el bloque A libre (donde "libre" denota que hay espacio suficiente para colocar un bloque sobre otro bloque o sobre la mesa), luego se tiene al bloque A sobre el bloque B (donde "sobre" denota que un bloque está sobre otro bloque o sobre la mesa), luego se tiene al bloque B sobre la mesa y, finalmente, se tiene a la mesa libre (en el sentido ya explicado).

Formalmente:

Se tiene (S₀, Libre (Bloque A))

Se tiene (S₀, Sobre (Bloque A, Bloque B))

Se tiene (S₀, Sobre (Bloque B, Mesa))

Se tiene (S₀, Libre (Mesa)

S₀ denota la situación que es descrita en la Figura 1 y el fluente Sobre (Bloque A, Bloque B) está relacionado con S₀ por el símbolo predicativo "Se tiene". Esta es una manera de describir qué fluentes se sostienen en una determinada situación. Hemos dicho también que el cálculo de situaciones incluye también Resultados, los cuales son símbolos de función que relacionan dos argumentos, el primero es una acción y el segundo una situación entre nuevas situaciones. Por ejemplo, consideremos la acción de poner el Bloque A sobre la mesa:

Poner sobre (Bloque A, Mesa)

Con Resultados podemos denotar la nueva situación que se produce si la acción previa es realizada en la S₀:

Resultados (Poner sobre (Bloque A, Mesa), S₀)

Y para establecer, por ejemplo, que el Bloque B está sobre la mesa luego de esta acción, decimos:

Se tiene (Resultados (Poner sobre (Bloque A, Mesa), S₀), Sobre (Bloque B, Mesa))

También podemos mencionar dentro del cálculo de situaciones ciertas fórmulas que describen los efectos de ciertas acciones, adecuadamente llamadas Axiomas de Efectos (Effect Axioms). Éstos deben considerar las precondiciones de una acción, es decir, los fluentes que son necesarios suponer para que ciertas acciones puedan realizarse:

Se tiene (s, libre(x)) ˄ se tiene (s, libre (y)) ˄ x ≠ mesa ˄ x ≠ y → Se tiene (Resultados (Poner sobre (x, y), s), Sobre(x,y))

Ahora bien, McCarthy y Hayes supusieron que, dentro de la formalización del cálculo de situaciones, podrían plantearse ciertas dificultades si se les cuestionaba sobre cómo formalizar en este cálculo los fluentes que no cambian cuando una acción determinada es realizada. Siguiendo con el ejemplo de los bloques sobre la mesa, introduzcamos este nuevo hecho a S₀:

Se tiene (S₀, Rojo (Bloque A))

Pero ¿se cumple que, a partir de este nuevo hecho Se tiene (Resultados (Poner sobre (Bloque A, Mesa), S₀), Rojo (Bloque A))? Claramente cualquier ser humano diría que no, pues no hay razones para pensar que el Bloque A cambia de color sólo por el hecho de moverlo de lugar.

Sin embargo, en la formalización del cálculo de situaciones no se habían incluido enunciados que permitieran demostrar esto, es decir, no se había formalizado de manera adecuada lo que se intentaba modelar. Era inminente pues introducir en tal formalismo la hipótesis de que las cosas permanecen rojas aún al ser movidas:

Se tiene (s, Rojo(x)) → Se tiene (Resultados (Poner sobre (x, y), s), Rojo(x))

Este axioma, denominado Axioma de Marco (Frame Axiom) describe la persistencia de un fluente al no ser afectado por una acción. Aunque pueda o no haber espacio en la mesa como para poner muchos más bloques, sea cual sea la situación y, asumiendo que el bloque B y la mesa pueden tener otros colores, el color que tiene cualquier ente que se encuentre en esa situación no varía después de la acción Poner sobre. Especificaciones acerca de qué propiedad(es) cambia(n), dada una o más acciones tendrán que ser codificadas en un programa. En la Inteligencia Artificial, basada en la lógica clásica, esto se hace mediante la codificación de estos axiomas de marco (Dennett, 1984; Viger, 2006).

Pero varios fluentes permanecen iguales cuando un bloque se mueve. La cantidad de axiomas de marco necesarios para describir las acciones adecuadamente puede engorrarse rápidamente en comparación al dominio de n fluentes y m acciones porque, en general, la mayoría de los fluentes no se encuentran afectados por la mayoría de las acciones. Obviamente, cuantas más propiedades o acciones se representan, más compleja será la tarea. Esta complicación nos permite comprender el problema de marco lógico como el problema acerca de cómo representar, de la forma más concisa posible, el hecho de que en una situación determinada la mayoría de las propiedades de los objetos permanecen iguales o no son afectadas por la ejecución de una determinada acción. Con otras palabras, el problema de marco lógico surge cuando uno intenta expresar los efectos de las acciones, o de los eventos involucrados, usando la lógica clásica como herramienta de formalización. A través de esta lógica deberíamos describir (formalmente) no sólo qué cambia cuando una clase particular de acción es realizada, o un evento en particular ocurre, sino también lo que no cambia.

Hemos intentado, a través de la descripción expuesta, dilucidar las principales dificultades del problema de marco lógico. Por supuesto, se nos puede objetar no haber descrito tales dificultades con más detenimiento pero creemos que lo expuesto es suficiente dados nuestros propósitos. A continuación, y fiel a nuestro esquema, describiremos la interpretación filosófica del problema de marco y sus principales complicaciones.

 

§3. El problema de marco filosófico

Si bien no hay un acuerdo generalizado acerca de cómo concebir el problema de marco filosófico, esto no implica que no haya ciertas tendencias. Para obtener claridad sobre esta cuestión, a continuación describiremos algunas de las caracterizaciones más relevantes del problema destacando, oportunamente, las dificultades subyacentes.

Debido al particular impacto y trascendencia con respecto al progreso de las Ciencias Cognitivas que el filósofo Jerry Fodor le ha atribuido al problema de marco con respecto al futuro de las Ciencias Cognitivas, es que nos referiremos, en primer lugar y con más detenimiento, a su interpretación del problema. En efecto, Fodor postula un peculiar pesimismo con respecto a la resolución del problema de marco: la no resolución del problema de marco limitaría el progreso de las Ciencias Cognitivas (Fodor, 1986, 2003). En otras palabras el futuro de las Ciencias Cognitivas depende crucialmente de la resolución del  problema de marco. A continuación expondremos aquellos aspectos esenciales que colaboren a comprender tal pesimismo.

Comenzaremos por repasar algunas de las cuestiones más relevantes de la Teoría Modular de la Mente (Fodor, 1986). De acuerdo a ésta, nuestro sistema cognitivo está constituido por sistemas de transductores (sensoriales y motores); sistemas modulares (de entrada) que elaboran y representan la información proporcionada por los transductores; sistemas centrales (sistemas no modulares) que al realizar inferencias, razonar, tomar decisiones, resolver problemas, etc., integran la información procedente de los distintos módulos y, finalmente, sistemas modulares (de salida) como la producción del lenguaje y la actividad motora. Pero dentro de la investigación cognitiva los sistemas modulares no tienen el mismo "status" de interés que los sistemas centrales. En efecto, para Fodor, los procesos cognitivos que caracterizan a los seres inteligentes, "los responsables de los grandes logros de la mente humana" se llevan a cabo a través de los sistemas centrales y es condición para avanzar en las Ciencias Cognitivas conocer cómo estos sistemas realizan alguna de sus principales actividades. Es fundamental comprender entonces cómo los sistemas centrales determinan relevancia, actualizan creencias, confirman hipótesis, etc. Una característica clave de los sistemas centrales, a la que es fundamental atender, es su no encapsulamiento informativo (Fodor, 1986). Con otras palabras, los sistemas centrales se caracterizan por ser "permeables" a toda la información que proceda de cualquier otro sistema. Como consecuencia, al momento de llevar a cabo sus actividades, los sistemas centrales deben examinar la vasta información que suministran los distintos sistemas de entrada. Oportunamente retomaremos esta complicación.

Descritos brevemente algunos aspectos fundamentales, a continuación atenderemos a la "interpretación fodoriana" del problema de marco. Tal vez sea conveniente aclarar que Fodor no presenta una única concepción del problema de marco a lo largo de sus escritos. Quizás su concepción más amplia del problema consista en la pregunta, no tan sencilla de responder, acerca de cómo es que realmente trabaja la mente humana: "The frame problem (...) is just the problem of unencapsulated nondemostrative inference and the problem of unencapsulated nondemostrative inference is, to all intents and purpose, the problem of how the cognitive mind works". Comprender cómo es que se llevan a cabo algunas de las actividades cognitivas más interesantes de la mente humana (realizar inferencias, razonar, tomar decisiones, resolver problemas, etc.) es comprender, al fin de cuentas, el problema de marco (Fodor, 2003). Pero, por otra parte, Fodor sostiene concepciones más restrictivas del problema, que básicamente consisten en cómo los sistemas centrales realizan alguna de sus actividades principales, a saber, cómo los sistemas centrales determinan relevancia, cómo los sistemas centrales actualizan sus  creencias, cómo realizan  inferencias abductivas, cómo confirman hipótesis, etc. (Fodor 1983, 1991, 2000, 2008).

Pero sea cual fuere la concepción que se tome en consideración, la dificultad clave es siempre la misma. En principio, para que los sistemas centrales realicen cada instancia de cada una de sus actividades, y en virtud de su ya descrito no encapsulamiento, parecería necesario que hagan una búsqueda exhaustiva entre toda la información que posee el sistema, lo cual es extremadamente implausible: "la totalidad de nuestras convicciones es un espacio desmesuradamente amplio para emprender una búsqueda (...) de hecho la totalidad de nuestras convicciones epistémicas es desmesuradamente amplia como para buscar cualquier cosa que intentamos entender". En otras palabras, los sistemas centrales se enfrentarían al desafío de realizar distintas actividades que requieren explorar una vasta cantidad de información con recursos cognitivos y temporales muy limitados. Teniendo en cuenta esta dificultad y las concepciones fodorianas del problema ya expuestas, proponemos limitarnos a una sola de las actividades que los sistemas centrales llevan a cabo: la determinación de la relevancia y comprender al problema de marco filosófico como el problema que cuestiona cómo los procesos cognitivos determinan qué información, de entre toda la disponible, es relevante dada una tarea determinada.

Una gran cantidad de investigadores del área estarían de acuerdo en concebir, como lo hacemos nosotros, el problema de marco como un problema de relevancia (Glymour, 1987; Crockett, 1994; Dreyfus, 1979; Schneider, 2007; Pinker, 2005; Shanahan, 2009; Ludwing y Schneider, 2008, entre otros). Fodor coincidiría plenamente en que la determinación de relevancia es una parte crucial del problema de marco. Aunque él probablemente quiera agregar otras actividades de los sistemas centrales, sin dudas, aceptaría este aspecto como uno de los desafíos centrales del problema de marco.

Otro filósofo que estaría de acuerdo con nuestra manera de concebir el problema de marco filosófico es Daniel Dennett. Precisamente uno de los ejemplos más ilustrativos de esta particular concepción del problema de marco es el que este autor presenta en su memorable ensayo Las ruedas del conocimiento: el problema de marco en la IA (1984).

En este ejemplo se enfatizan ciertos aprietos en los que se encuentra un agente artificial al enfrentarse al problema de marco. Para entender a este problema, Dennett apela a un experimento mental (ver Figura 2) en el que invita a imaginarnos un robot imaginario R1 al que sus diseñadores le fijan la tarea de recuperar su batería de repuesto.

La batería se encuentra dentro de un carro en una habitación cerrada en la que hay una bomba programada para estallar en poco tiempo. R1 hace la hipótesis de que una cierta acción Sacar (Carro, Habitación) le permitiría cumplir su tarea. Entra pues a la habitación y saca el carro con su batería de repuesto. Desafortunadamente, al estar la bomba también dentro del carro, el robot estalla a los pocos segundos.

Los diseñadores de R1, para evitar tal explosión, creen que es necesario que el robot no sólo considere las implicaciones intencionadas de sus actos, sino también las implicaciones secundarias. Así, diseñan el siguiente robot, llamado R1D1, que también encuentra la batería y diseña un plan de acción; sin embargo, cuando acaba de deducir que quitar el carro hacia afuera de la habitación no haría cambiar el color de las paredes de ésta y está embarcándose en la comprobación de la siguiente implicación, la bomba explota.

Con esta situación, los diseñadores consideran necesario enseñarle al robot a diferenciar, a través de mecanismos de inferencia, aquellas implicaciones que son pertinentes y que deben tenerse en cuenta al diseñar un plan de acción, de aquellas otras que no lo son. El diferenciar tales implicaciones permitiría que el robot no se quede congelado considerando todas y cada una de las implicaciones, relevantes e irrelevantes. Llaman a este tercer robot R2D1 y le dan la misma orden. Cuando el robot localiza la batería, se sienta afuera de la habitación. Los diseñadores, angustiados por ver que el robot se queda congelado de nuevo, le gritan que haga algo y el robot responde: "¡Lo estoy haciendo (...) estoy ignorando diligentemente las miles de implicaciones que determiné improcedentes! ¡Tan pronto descubra una implicación improcedente, la sumo a la lista de las que debo ignorar!" Así, mientras el robot se concentra en omitir consideraciones innecesarias, explota la bomba y el robot se queda sin batería. A través de este ejemplo, es claro que un requisito necesario para poder solucionar el problema de marco es lograr que el programa construido permita tomar las decisiones adecuadas dentro de un tiempo razonable.

Ahora bien, ninguno de los tres robots ha solucionado, según Dennett, el problema de marco. El primer robot no tiene un mecanismo que le permitiera considerar de manera completa las implicaciones de sus actos. El segundo robot tiene esta capacidad pero carece de la capacidad de distinguir las consecuencias relevantes de las irrelevantes. Y finalmente, el tercero posee esta capacidad pero carece de la habilidad de coordinar esa distinción con las acciones necesarias para la tarea, al menos, en un tiempo prudencial. Así, se puede argumentar que una de las preguntas que Dennett tiene en mente, con respecto al problema de marco filosófico, es la siguiente: ¿cómo es que al momento de realizar una determinada tarea, dada una vasta cantidad de información, el sistema cognitivo es capaz de determinar relevancia y generar, expeditivamente una secuencia de acciones, sin terminar paralizado computacionalmente? Con otras palabras, Dennett sugiere que el problema de marco filosófico plantea preguntas acerca de las habilidades cognitivas humanas relacionadas con la determinación de la relevancia en el contexto de la realización de una tarea.

Por último, podemos señalar a un tercer filósofo, John Haugeland, quien también sugiere que el problema de marco filosófico es un problema de determinación de relevancia. A este autor le interesan particularmente las limitaciones computacionales-temporales que postula Dennett a través de los ejemplos de los robots. Su concepción del problema de marco apunta a la efectividad con la que los seres humanos determinamos relevancia: "how to "home in on"relevant considerations, without wasting time on everything else the system knows... how to decide for each fact whether it matters, but how to avoid that decision for almost every bit of knowledge." Lo que cuestiona es el modo en que los seres humanos ignoramos, de manera selectiva, casi todo lo que conocemos, es decir, cómo es que apuntamos solamente hacia aquellos factores relevantes sin gastar ni esfuerzo ni tiempo al descartar las alternativas. La dificultad del problema de marco no estaría solamente en cómo decidimos, en cada consideración potencial, si eso es relevante o no, sino en cómo evitamos esa decisión en cada instante.

Retomemos el hilo de la discusión. Hasta el momento hemos expuesto dos interpretaciones del problema de marco y analizado sus principales dificultades. Hemos descrito el problema de marco lógico como el problema acerca de cómo representar, de la forma más concisa posible, el hecho de que en una situación determinada la mayoría de las propiedades de los objetos permanecen iguales o no son afectadas por la ejecución de una determinada acción. Por otro lado, hemos descrito el problema de marco filosófico como el problema que cuestiona cómo los procesos cognitivos determinan qué información, de entre toda la disponible, es relevante dada una tarea determinada. A continuación atenderemos a la cuestión clave de este trabajo: la relación que se establece entre la dificultad definicional y resolutiva.

 

§4. Los hombres del Este

Si bien es nuestro objetivo dilucidar la relación que entre la dificultad definicional y resolutiva del problema de marco se establece, ésta ya ha sido anteriormente considerada por algunos autores, aunque no explícitamente. Sostenemos que varios de los debates y controversias que aún rodean al problema de marco se deben justamente al no esclarecimiento de esta particular relación. A continuación, describiremos algunas de estas controversias para introducir nuestra cuestión clave.

Comenzaremos por la disputa que motiva la "interrupción de los hombres del Este". Eric Lormand (1991) utiliza la metáfora "los hombres del Este" para referirse a un conjunto de filósofos que vienen a cuestionar la supuesta solución definitiva al problema de marco que los investigadores de la Inteligencia Artificial han propuesto. Frente a tal situación, Lormand señala que el problema que estos filósofos tienen en mente es distinto del que los investigadores en Inteligencia Artificial pretenden solucionar. Estas confusiones, sostenemos, son consecuencia de la relación que entre la dificultad definicional y resolutiva se establece: es necesario clarificar a qué interpretación del problema se hace referencia antes de evaluar su potencial solución.

La interpretación que Lormand comienza analizando se refiere a lo que nosotros hemos llamado el problema de marco lógico. Como se mencionó anteriormente, esta interpretación del problema de marco cuestiona cómo diseñar un sistema que podría inferir la persistencia de lo que no cambia de manera automática, es decir, sin almacenar o procesar de forma explícita varios axiomas de marco para hacerlo. Pues bien, para Lormand tales dificultades se solucionarían con el diseño de un robot (que el autor llama C3P) que sea capaz realmente de ignorar los hechos que no han cambiado a partir de un evento determinado, centrándose, contrariamente, solamente en los cambios que sí se han producido. Esta capacidad es conocida como la estrategia de "dejar dormir a los perros" (sleeping dogs strategy): "letting sleeping representations lie, unless there is some positive reason to wake them." A través de esta estrategia, se podría programar un robot de manera tal que asuma que, si algo no cambia explícitamente, entonces no ha cambiado en absoluto. Por ejemplo, este robot asumiría que el color de una habitación no cambia significativamente en un corto período de tiempo a menos que se pinte. El robot C3P se basaría en este supuesto al planificar su curso de acción. Ahora bien, dado que esta estrategia evitaría la necesidad de utilizar los axiomas de marco, superando así las dificultades que esto conlleva, los diseñadores de C3P estarían convencidos de haber resuelto definitivamente el problema del marco.

Con el objetivo de diferenciar esta interpretación lógica del problema de marco de una posible interpretación filosófica y de algunas de las objeciones que pudiesen hacerle, Lormand introduce, metafóricamente, a "tres hombres provenientes del Este": Dennett, Haugeland y Fodor. Estos filósofos (a quienes atendimos a propósito de la descripción del problema de marco filosófico) interrumpen el entusiasmo provocado por haber resuelto el problema de marco a través de la estrategia de "dejar dormir a los perros", exclamando que el problema de marco se encuentra muy lejos de estar resuelto, quedando aún mucho camino por recorrer para lograr su solución definitiva, si es que se pueda alguna vez resolver:

All was calm. All was bright. Until one night three wise men arrived from the East. C3P received no homage from them, however, much less any expensive gifts. The first wise man deemed the frame problem "a new, deep epistemological problem", which "whatever it is, is certainly not solved yet". The second wise man intensified the point, suggesting that the frame problem is "foisted on unsuspecting epistemology by misguided presumptions underlying AI as a discipline". Needless to say, the programmers found this completely mystifying. "You may suppose that you have solved the frame problem', explained the third wise man, "but in fact you are begging it. How could the depth, beauty, and urgency of the frame problem have been so widely misperceived?" In answer to his own question, he pronounced: "It's like the ancient doctrine of the music of the spheres. If you can't hear it, that's because it's everywhere". Satisfied that their hosts were completely at a loss for words, the wise men bid them farewell. As they left, the first wise man turned and issued the ominous warning, "If there is ever to be a robot with the fabled perspicacity and real-time adroitness of C3PO, robot-designers must solve the frame problem."

Esta cita parece apropiada pues transmite con elegancia nuestra cuestión clave: lo que es una solución para una interpretación puede no serlo bajo otra interpretación distinta a la primera. Según Shanahan (1997), a quien se le atribuye haber cerrado el capítulo lógico del problema de marco, una solución "satisfactoria" del problema de marco lógico debería brindar flexibilidad expresiva, elaboración de la tolerancia y, fundamentalmente, parsimonia representacional (p. 10). Shanahan sugiere que tales exigencias pueden satisfacerse formalizando "la ley de sentido común de la inercia". Esta ley asume el supuesto de que dada una acción determinada, a excepción de los efectos conocidos, nada más cambia. En otras palabras, esta ley establece que la inercia es normal y el cambio es excepcional, que si no existe evidencia de que algo haya cambiado, entonces no ha cambiado (p. 18). Esta ley se refiere a la ya mencionada estrategia de "hacer dormir a los perros" pues, al fin de cuentas, sostiene que es un hecho que nada cambia cuando ninguna acción altera a un objeto. Ahora bien, puede ser adecuado suponer que la interpretación lógica del problema de marco está resuelta bajo esta estrategia mientras que no lo está bajo la interpretación filosófica.

Pero también puede ser adecuado suponer que la interpretación filosófica del problema de marco está resuelta, por ejemplo, bajo el uso de las heurísticas mientras que no lo está bajo la interpretación lógica. En efecto, los "tres hombres del Este" defienden que una solución adecuada del problema de marco filosófico debe dar cuenta de ciertas habilidades de la cognición relacionadas con la determinación de la relevancia. Precisamente, como hemos mencionado ya a propósito del debate actual alrededor del problema de marco, las heurísticas, concebidas como reglas prácticas, conscientes o inconscientes, que suelen proveer respuestas razonables en razonamientos y toma de decisiones, ofrecen el tipo de explicación requerida. Más específicamente y desde un punto de vista computacional, las heurísticas son las primeras candidatas para aliviar la carga computacional que la determinación de relevancia entre vasta información conlleva. Mediante el empleo de las heurísticas se limita o se acota considerablemente la vasta cantidad de información y la tarea de determinar relevancia resulta, como consecuencia, mucho menos compleja.

Tal vez el siguiente ejemplo ilustre claramente la aptitud de las heurísticas recién descrita. Una de las heurísticas propuestas por el programa de Heurísticas y Sesgos es la llamada Heurística de Representatividad (Tversky y Kahneman, 1983). Esta heurística se activaría en una variedad de condiciones, entre ellas, cuando se requiere estimar la probabilidad de que un objeto pertenezca a una categoría (por ejemplo, una persona con tales características sea cajera/o de banco). Pues bien, lo que la heurística hace es brindar una respuesta basándose en el grado de similitud del objeto en cuestión con un caso paradigmático de la categoría en cuestión (ej., el prototípico cajero o la prototípica cajera). Así, hay búsqueda de información y posterior procesamiento, pero esta información es súper acotada: se busca el caso prototípico de una categoría. Es mediante las heurísticas que se crean instancias de búsqueda de información específica, lo cual deviene en subconjuntos computacionalmente manejables de información. Al limitarse así la información, sólo habrá una cantidad pequeña de información contenida en la base de datos del sistema, reduciéndose de este modo la cantidad de cálculos necesarios a la hora de determinar relevancia. En este sentido, las heurísticas colaboran claramente en la tarea de delimitar información, superando así las dificultades que examinar vasta información conlleva. En resumen, la aptitud de las heurísticas descrita parecería resolver el problema de marco filosófico pero no el problema de marco lógico.

Aunque es de sumo interés atender en detalle a cada una de las soluciones mencionadas, no nos detendremos aquí en cada una de ellas por separado pues lo que nos interesa es la relación que entre estas soluciones y las interpretaciones descritas del problema se establecen. Ninguna de las soluciones propuestas es susceptible de críticas, ni mucho menos de menosprecio por parte de filósofos ni lógicos, pues éstas se dirigen hacia diferentes interpretaciones del problema. Si evaluamos la aptitud de las heurísticas por resolver el problema de marco en función de una interpretación de tipo lógico, por supuesto, éstas no serán convincentes; pero, si, en cambio, se atiende a una interpretación filosófica, tal vez lo serían. A la inversa, si evaluamos la estrategia de hacer dormir a los perros para resolver el problema de marco en función de una interpretación de tipo lógico, ésta será convincente; pero, si, en cambio, se atiende a una interpretación filosófica, no lo será. Es pues necesario tener en claro la naturaleza del problema de marco, y las dificultades subyacentes en cuestión, antes de poner en consideración la aptitud de algunas propuestas de resolución.

 

§4.1 ¿Es posible resolver definitivamente el problema de marco?

A continuación atenderemos a algunas discusiones que en torno a la posibilidad de una solución definitiva del problema de marco se plantean. Sostenemos que subyacente a éstas se encuentra la relación que en este trabajo queremos dilucidar.

Precisamente en el artículo The Problem with Solutions to the Frame Problem (1996) Morgenstern discute esta cuestión. El autor postula siete criterios que, según su parecer, deben considerarse a la hora de estimar cualquier solución del problema de marco. De entre éstos, sugerimos que el siguiente criterio refleja adecuadamente la relación que queremos dilucidar: cualquier solución que se proponga para resolver una interpretación del problema de marco (dificultad resolutiva), debe resolver esa misma interpretación del problema y no otra (dificultad definicional). Este criterio resulta como consecuencia del siguiente "patrón de investigación": "A toy problem, presumably meant to be a characteristic instance of the frame problem, is introduced; a solution is proposed; a new variant on the toy problem is introduced; it is discovered that the old solution cannot solve the new toy problem, and so on". Visto de esta manera, parecería imposible alcanzar una resolución universal del problema, como aquella que correspondería a un problema matemático, pues que lo que se está reclamando en nombre del problema de marco es cierta explicación sobre algunas cuestiones que se encuentran "iluminadas" por el problema: dependiendo de las cuestiones que están iluminadas, es decir de las interpretaciones que consideremos (dificultad definicional), es que se postularán ciertas soluciones (dificultad resolutiva). Como consecuencia de esta particularidad, es casi inevitable la sensación de estar realizando un esfuerzo inútil frente a la tarea de resolverlo. En efecto, cuando nos ilusionamos por haber encontrado una solución, rápidamente alguien nos puede objetar que ésta no soluciona algún otro aspecto que no hemos considerado, desilusionándonos rápidamente. Como lo sugiere el mito de Sísifo, el problema de marco parece ser un problema destinado a no resolverse nunca.

Volviendo a nuestra cuestión clave, es necesario tener en claro la naturaleza del problema de marco a la hora de presumir una solución "definitiva-universal" del problema pues la posibilidad, o no, de resolverlo, va a depender de la interpretación que del problema de marco se tenga en mente. Si lo entendemos como un problema matemático, éste tal vez puede ser solucionado definitivamente, pero si lo entendemos como un problema filosófico tal solución parecería ser más difícil, o imposible, de alcanzar. Esto mismo lo sugiere Ross (1990) al distinguir, como lo hemos hecho nosotros, el problema de marco lógico del problema de marco filosófico: "Solving the frame problem, unfortunately, isn't like solving the problem of developing a better curve ball; whereas the former is clearly a mechanical problem which everyone agrees to be tractable in principle, several eminent philosophers have opined that the frame problem hasn't been solved because it can't be solved."

Como consecuencia de la relación que entre la dificultad definicional y resolutiva del problema de marco se establece, es acertado suponer que bajo una interpretación del problema no existe una solución definitiva, mientras que bajo otra interpretación, distinta a la primera, sí la hay. Al respecto, Ross postula dos tipos de resolución: posibilidad teórica y posibilidad práctica. Cada una de estas posibilidades depende del campo disciplinar del que la interpretación del problema de marco provenga. Si tenemos en mente una interpretación del problema proveniente del campo de la filosofía entonces su posibilidad es de tipo teórica. Si, en cambio, tenemos en mente una interpretación del problema proveniente del campo de la Inteligencia Artificial entonces su posibilidad es de tipo práctica. Lo mismo podría decirse con respecto a su imposibilidad. Como sea, subyacente a estas distinciones se encuentra la relación que en este trabajo queremos dilucidar.

Es interesante el comentario que hace Shanahan en su epílogo (2009) al preguntarse si el problema de marco está resuelto. El autor sugiere, desde un punto de vista filosófico, que una de las cuestiones más interesantes al investigar el problema de marco es que no hay un acuerdo general acerca de qué constituiría una solución. A la inversa, sí existe un acuerdo con respecto a la resolución del problema de marco lógico: las herramientas lógicas-matemáticas que lo intenten solucionar deben ser precisas y rigurosas como aquellas que se ejercen sobre cualquier problema de matemática no resuelto. Esta combinación, con respecto a la dificultad resolutiva del problema de marco, al autor le resulta "intoxicante". Para nosotros tal combinación resulta como consecuencia de la relación que entre la dificultad definicional y resolutiva del problema de marco se establece. Simplemente se debe suponer que bajo una interpretación del problema no hay acuerdo en el modo de resolverlo, mientras que bajo otra interpretación, distinta a la primera, sí lo hay. En resumen, no podemos hablar de una solución definitiva-universal del problema de marco pues cada resolución dependerá del aspecto o naturaleza del problema que se ha enfatizado.

 

§5. Comentarios finales

El problema de marco aún hoy es un punto de partida para la discusión de varios comentarios, enfrentamientos, teorizaciones e implicancias, lo cual nos lleva a preguntarnos acerca de las razones de su permanencia. Tal vez el no haber atendido suficientemente a la relación que entre la dificultad definicional y resolutiva se establece es una de las razones que justifican su permanencia. La cuestión clave de este trabajo consistió en dilucidar tal relación.

Luego de describir la interpretación lógica y filosófica del problema de marco y atender a sus dificultades, sugerimos que cada una de ellas se refiere a problemáticas distintas y que es en función de cada una de ellas que se debe evaluar cualquier solución. Lo que es una solución para una interpretación puede no serlo bajo otra interpretación distinta a la primera. Así como es una tarea difícil el lograr una definición universal del problema de marco, también lo es el lograr una solución universal del problema de marco, pues cada resolución dependerá del aspecto o naturaleza del problema que se quiere enfatizar. Cualquier investigación sobre el problema de marco deberá tener en cuenta esta relación "bisagra" entre las dificultades claves del problema de marco.

Fodor (2008) sostiene que si alguien piensa que ha resuelto el problema del marco, entonces no lo ha entendido; si alguien piensa que ha entendido el problema del marco, no lo ha hecho, y si alguien piensa que aún no lo ha entendido, entonces tiene razón. En acuerdo con Fodor se está aún lejos de ofrecer alguna certeza acerca de lo que es el problema de marco ni cual sea su solución, aunque de algo sí se puede estar seguro: es necesario atender a la relación entre la dificultad definicional y resolutiva del problema de marco si lo que se quiere es progresar en su tratamiento.

 

§6. Referencias

Brown, F. M. "The Frame Problem in Artificial Intelligence" en Proceedings of the 1987 Workshop, Los Altos: Morgan Kaufmann, 1987.         [ Links ]

Carruthers, P. The Architecture of the Mind: Massive Modularity and the Flexibility of Thought, Oxford: Oxford University Press, 2006a.         [ Links ]

Carruthers, P. "Simple Heuristics Meet Massive Modularity," en Carruthers, P, Laurence, S. y Stich S. (Eds.), The Innate Mind: Culture and Cognition, Oxford: Oxford University Press, 2006b, pp. 181-198.         [ Links ]

Crockett, L. The Turing Test and the Frame Problem: AI's Mistaken Understanding of Intelligence, New Jersey: Ablex Publishing Corporation, 1994.         [ Links ]

Dehaene, S. y Naccache, L. "Towards a Cognitive Neuroscience of Consciousness: Basic Evidence and a Workspace Framework," Cognition, 79, 2001, pp.1-37.         [ Links ]

Dehaene, S., Naccache, L., Cohen, L., Bihan, D. L., Mangin, J. F., y Poline, J. B. "Cerebral Mechanisms of Word Masking and Unconscious  Repetition Priming," Nature Neuroscience, 4, 2001, pp. 752–758.         [ Links ]

Dehaene, S., Sergent, C. y Changeux, J. P. "A Neuronal Network Model Linking Subjective Reports and Objective Physiological Data During Conscious Perception," en Proceedings of the National Academy of Science, 100(14), 2003, pp. 8.520-8.525.         [ Links ]

Dennett, D. "Cognitive Wheels: The Frame Problem of AI," en Hookway, C. (Ed.), Minds, machines & evolution, Cambridge: Cambridge University Press, 1984, pp. 129-152.         [ Links ]

Domingo, J. "El proyecto modular de Jerry Fodor (o sobre el porvenir de otra ilusión)", Anuario de Psicología, 4, (2003), pp. 505-571.         [ Links ]

Dreyfus, H. L. What Computers Can't Do: The Limits of Artificial Intelligence, New York: Harper Colophon Books, 1979.         [ Links ]

Evans, J. "How Many Dual-process Theories Do We Need? One, Two, or Many?" en Evans J. y K. Frankish (Eds.) In Two Minds: Dual Processes and Beyond, Oxford: Oxford University Press, 2009, pp. 33-54.         [ Links ]

Fetzer, J. H. "The Frame Problem: Artificial Intelligence Meets David Hume," en Ford, K. M. y Hayes, P. J. (Eds.), Reasoning Agents in a Dynamical World: The Frame Problem, London: JAI Press,1991, pp. 55-69.         [ Links ]

Fodor, J. The Modularity of Mind, Cambridge: The MIT Press, 1983.         [ Links ]

Fodor, J. La modularidad de la mente, Madrid: Morata, 1986.         [ Links ]

Fodor, J. "Modules, Frames, Fridgeons, Sleeping Dogs and the Music of Spheres" en Garfield, J. L. (Ed.), Modularity in Knowledge Representation and Natural-language Understanding, Cambridge: The MIT Press, 1991, pp. 25-36.         [ Links ]

Fodor, J. The Mind Doesn't Work That Way: The Scope and Limits of Computational Psychology, Cambridge: The MIT Press, 2000.         [ Links ]

Fodor J. La mente no funciona así: alcances y limitaciones de la psicología computacional, Madrid: Siglo XXI, 2003.         [ Links ]

Fodor, J. LOT 2: The Language of Thought Revisited, Oxford: Clarendon Press, 2008.         [ Links ]

Ford, K. M. y Hayes, P. J. (Eds.), Reasoning Agents in a Dynamical World: The Frame Problem, London: JAI Press, 1991.         [ Links ]

Ford, K. M. y Pylyshyn, Z. W. The Robot's Dilemma Revisited: The Frame Problem in Artificial Intelligence, Norwood: Ablex Publishing Corporation, 1996.         [ Links ]

Gigerenzer, G. Gut Feelings: The Intelligence of the Unconscious, New York: Viking (the Penguin Group), 2007.         [ Links ]

Gigerenzer G. y Selten R. (Eds.), Bounded Rationality: The Adaptive Toolbox, Cambridge: The MIT Press, 2001.         [ Links ]

Gilovich, T., Griffin, D., y Kahneman, D. Heuristics and Biases: The Psychology of Intuitive Judgment, Cambridge: Cambridge University Press, 2002.         [ Links ]

Glymour, C. "Android Epistemology and the Frame Problem: Comments on Dennett's Cognitive Wheels," en Pylyshyn Z. W. (Ed.), The Robot's Dilemma: The Frame Problem in Artificial Intelligence, Norwood: Ablex Publishing Corporation, 1987, pp. 65-77.         [ Links ]

Haselager, W. F. G. y van Rappard, J. F. H. "Connectionism, Systematicity, and The Frame Problem," Minds and Machines, 2, 1998, pp.161-179.         [ Links ]

Haugeland, J. Artificial Intelligence: The Very Idea, Cambridge: The MIT Press, 1985.         [ Links ]

Haugeland, J. "An Overview of the Frame Problem," en Pylyshyn Z.W The Robot's Dilemma, Norwood, N. J.: Ablex, 1987, pp. 317-351.         [ Links ]

Hayes, P. J. "Commentary on "The Frame Problem: Artificial Intelligence Meets David Hume," en Ford, K. M. y Hayes, P. J. (Eds.), Reasoning Agents in a Dynamic World: the Frame Problem, London: JAI Press, 1991, pp. 71-76.         [ Links ]

Horty, J. "Nonmonotonic Logic," en Goble L. (Ed.), Blackwell Guide to Philosophical Logic, Oxford: Blackwell Publishers, 2001, pp. 336-361.         [ Links ]

Kahneman, D., y Tversky, A. "On the Reality of Cognitive Ilusions," Psychological Review, 103(3), 1996, pp. 592-591.         [ Links ]

Janlert, L. "Modeling Change, the Frame Problem," en Pylyshyn Z. W. (Ed.), The frame problem in Artificial Intelligence, Norwood, NJ: Ablex Publishing Corporation, 1987, pp.1-40.         [ Links ]

Lormand, E. "Framing the Frame Problem, Epistemology and Cognition," en Fetzer J. (Ed.), Studies in Cognitive Systems, Dordrecht: Kluwer Academic Publishers, 1991, pp. 267-289.         [ Links ]

Ludwig, K. y Schneider, S. "Fodor's Challenge to the Classical Computational Theory of Mind," Mind and Language, 23, 2008, pp. 123-143.         [ Links ]

Márquez, I. "Sísifo en la era de la Información", Cultura Digital y Vida Cotidiana en Iberoamérica, 73, 2009, pp.1-13.         [ Links ]

McCarthy, J. "A Basis for a Mathematical Theory of Computation," en Braffor P. y Hirshberg D. (Eds.), Computer Programming and Formal Systems, Amsterdam: North-Holland, 1963, pp. 33-70.         [ Links ]

Mc Carthy, J. y Hayes P. "Some Philosophical Problems from the Standpoint of AI," Machine Intelligence, 4, 1969, pp.463-502.         [ Links ]

Morgenstern, L. "The Problem with Solutions to the Frame Problem" en Ford, K. M. y Hayes, P. J. (Eds.), Reasoning Agents in a Dynamical World: the frame Problem, London: JAI Press, 1996, pp. 99-133.         [ Links ]

Perlis, D. "Intentionality and Defaults," en Ford, K. y Hayes P. (Eds.), International Journal of Expert Systems, Special issue on the Frame Problem, Part B, Universidad de Maryland, Vol. 3, 1990, pp. 345-354.         [ Links ]

Pinker, S. "So How Does The Mind Works," Mind & Language, 20, 2005, pp.1-24.         [ Links ]

Pylyshyn, Z. W. (Ed.). The Robot's Dilemma: The Frame Problem in Artificial Intelligence, Norwood: Ablex Publishing Corporation, 1987.         [ Links ]

Ross, D. "Against Positing Central Systems in the Mind," Philosophy of Science, 57, 1990, pp.297-312.         [ Links ]

Russell, S. y Norvig, P. Artificial Intelligence, a Modern Approach, Segunda Edición, Upper Saddle River, NJ: Prentice Hall, 2003.         [ Links ]

Russell, S. y Norvig, P. Inteligencia Artificial: un enfoque moderno, Segunda edición, Madrid: Pearson Educación S.A, 2004.         [ Links ]

Russell S. y Norvig , P. Artificial Intelligence: A Modern Approach, Tercera Edición, Upper Saddle River, NJ: Prentice Hall, 2010.         [ Links ]

Samuels, R. "The Complexity of Cognition: Tractability Arguments for Massive Modularity," en Carruthers, P. Laurence, S. y Stich S. (Eds.), The Innate Mind: Structure and Contents, Oxford: Oxford University Press, 2005, pp. 107-121.         [ Links ]

Samuels, R. "Classical Computationalism and the Many Problems of Cognitive Relevance," Studies in History and Philosophy of Science, 41, 2010, pp. 280-293.         [ Links ]

Samuels, R., y Stich, S. "Rationality and Psychology" en Mele A. y Rawling P. (Eds.), The Oxford Handbook of Rationality, Oxford: Oxford University Press, 2004, pp. 279-300.         [ Links ]

Samuels, R., Stich, S., y Bishop, M. "Ending the Rationality Wars: How to Makedisputes About Human Rationality Disappear," en Elio R (Ed.), Common Sense, Reasoning and Rationality, New York: Oxford University Press, 2002, pp. 236-268.         [ Links ]

Schneider, S. "Yes, It Does: a Diatribe on Jerry Fodor's The Mind Doesn't Work, That Way," Psyche, 13, 2007, pp. 1-15.         [ Links ]

Schneider, S. The Language of Thought: A New Philosophical Direction, Cambridge: MIT Press, 2011.         [ Links ]

Shanahan, M. "Explanation in the Situation Calculus," Proceedings of IJCAI, 1993, pp. 160-165.         [ Links ]

Shanahan, M. Solving the Frame Problem: A mathematical Investigation of the Common Sense Law of Inertia, Cambridge: The Mit Press, 1997.         [ Links ]

Shanahan, M. The Frame Problem, Disponible en página web: http/plato.stanford.edu/entries/frame-problem: (consultado el 15 de abril de 2014).         [ Links ]

Shanahan, M. y Baars, B. "Applying Global Workspace Theory to the Frame Problem," Cognition, 98(2), 2005, pp. 157-176.         [ Links ]

Stein, L. A. "An Atemporal Frame Problem," International Journal of Expert Systems, 4, (1990), pp. 371-381.         [ Links ]

Tversky, A. y Kahneman, D., "Extensional Versus Intuitive Reasoning: The Conjunction Fallacy in Probability Judgment," Psychological Review 90, 1983, pp. 293–315.         [ Links ]

van Brakel, J. "The Complete Description of the Frame Problem," Psycoloquy, 60, 1992.         [ Links ]  

van Brakel, J. "Unjustified Coherence," Psycoloquy,23,(1993).         [ Links ]

Viger C. "Frame Problem," en Brown K (Ed.), Encyclopedia of Language and Linguistics. Oxford: Elsevier, 2006, pp. 610-613.         [ Links ]