INFORMACIÓN Y FORMULARIOS INGRESOS YA: -Trasferencia a ES26 2100 7344 7313 0021 2801 -Bizum a 34-609 51 08 62
  • A  A  A  

Otros temas

Autores

Archivo de entradas

6552 Artículos. - 101953 Comentarios.

¿Puede haber ordenadores con autoconciencia?

Las fronteras de lo humano se hacen borrosas

  • El episodio de Blake Lemoine, el ingeniero de Google que asegura que hay vida propia en la inteligencia artificial de su compañía, reabre debates polémicos como el uso de algoritmos y de IA y en las responsabilidades morales de los ciborgs. Es más, afirmar que las máquinas puedan sentir emociones, abre interrogantes para la compresión de la naturaleza humana.
  • En nuestra sociedad científico-técnica hay opiniones muy autorizadas que consideran que la mente humana se puede comparar con un ordenador. Y que las funciones que los humanos realizamos para elaborar pensamientos pueden ser sustituidas, incluso con creces, por los potentes ordenadores que ya están en funcionamiento.
  • ¿Estamos en una nueva frontera? Desde los campos de la educación, se habla de “modelos de procesamiento de la información” que pueden sustituir a los profesores. Es más: en este año pasado, año de pandemia y de cierre de las aulas para los alumnos, algunos postulan que los ordenadores pueden sustituir a los profesores. ¿Es la mente humana un gran ordenador?

Estamos rodeados de formas muy diversas de Inteligencia Artificial, de IA. El robot “Roomba” barre la casa y cuando tiene hambre (de energía) se va a conectar a su toma de corriente para recargar su batería. Con Siri, Alexa, Bixby y otros “asistentes” similares hablamos en lenguaje natural: aprenden nuestras preferencias musicales, mantienen nuestra agenda, nos leen libros y mensajes, traducen lo que decimos a decenas de idiomas.

Coches autónomos se mueven entre el tráfico y nos llevan al destino deseado siguiendo las indicaciones del GPS. Los algoritmos vencen a los humanos en juegos como el ajedrez y el Go, operan hábilmente en la bolsa de valores, hacen predicciones, reconocen los rostros de las personas, superan la inteligencia biológica en tareas complejas. En todas estas cosas tienen éxito, pero precisamente porque separan el resultado de la inteligencia. La IA actúa como si fuera inteligente,

 

La autocompresión de lo humano

En nuestro mundo del siglo XXI emerge una verdadera revolución en la autocomprensión del ser humano. La filosofía transhumanista parece trastocarlo todo. Incluso la misma identidad de la naturaleza humana. Es extensa la literatura que genera rondando a veces la ciencia ficción.

Uno de los filósofos que más está colaborando a la clarificación conceptual y ética de este fenómeno es el profesor Carlos Beorlegui, doctor en filosofía y licenciado en teología por la Universidad de Deusto, Catedrático emérito de Filosofía en la UD y profesor invitado de la UCA José Simeón Cañas (San Salvador), desde 1993. En las páginas de FronterasCTR hemos publicado hace pocas semanas uno de sus trabajos. La labor académica e investigadora de Beorlegui se ha centrado en temas como la Antropología filosófica, la Historia de la Filosofía española y latinoamericana, la Filosofía de la mente, la Ética de las profesiones y El hecho religioso.

Beorlegui pertenece al consejo de redacción de la revista Pensamientoy ha publicado numerosos artículos en revistas de filosofía españolas y latinoamericanas. Entre sus libros publicados destacan: Antropología filosófica. Nosotros: urdimbre solidaria y responsable (1999, 2004, 2009), La singularidad de la especie humana. De la hominización a la humanización (2011), Antropología filosófica. Dimensiones de la realidad humana (2016), Humanos. Entre lo pre-humano y lo post- o trans-humano (2019).

Su último libro merece nuestra consideración: Nuevas tecnologías, trans/posthumanismo y naturaleza humana. Editorial Comares, Granada, 2021, Colección Filosofía hoy, número 79,  415 páginas.

Para Beorlegui, el ser humano ha ido forjando su ser y su identidad a lo largo de su propia historia. El ser humano se ha hecho a sí mismo construyendo todo tipo de artefactos y herramientas con los que ha ido transformando su entorno vital y a sí mismo. El avance del conocimiento científico construido por comunidades de expertos, hace posible una interpretación cada vez más ajustada a la realidad de los procesos que rigen el funcionamiento del universo enigmático.

Es más: el conjunto de las llamadas nuevas tecnologías y la convergencia potenciadora entre ellas están suponiendo un avance de tal magnitud respecto a las potencialidades tecnológicas de épocas anteriores, que los humanos tenemos ya en nuestras manos la capacidad de poner en peligro el equilibrio ecológico del planeta Tierra y consiguientemente la propia supervivencia de nuestra especie.

Si ante los avances científicos y tecnológicos suelen aparecer siempre posturas extremas, que los rechazan radicalmente (tecnofobia) o los defienden sin fisuras (tecnofilia), la capacidad que las nuevas tecnologías tienen de transformar las leyes de la naturaleza y la esencia de lo humano, hacen que estas posturas extremas se presenten con renovada radicalidad.

Especial interés posee en la actualidad la ideología trans/post-humanista, que sueña con la utilización de estas nuevas tecnologías para traspasar la esencia de los humanos con vistas a construir una nueva era post-humana habitada por nuevas especies que sobrepasen lo humano. De ahí la necesidad de acercarse al problema de forma prudente, crítica y responsable, puesto que se trata de algo que nos concierne a todos, siendo irresponsable dejar estas decisiones en manos tan solo de los científicos, las empresas que los financian, los intelectuales o los políticos, porque está en juego el futuro de la especie humana.

 

Beorlegui y las nuevas tecnologías: ¿cambia la naturaleza humana?

En concordancia con esta problemática antropológica, y explicitando los contenidos de los diversos capítulos que componen este libro, Beorlegui comienza por realizar una presentación global de las nuevas tecnologías, centrándonos en las cuatro que los estudiosos sitúan bajo esta denominación (las NBIC convergentes): las nanotecnologías, las biotecnologías, las infotecnologías, y las ciencias del conocimiento (las neurocienciasy la IA, junto con la robótica).

“Al mismo tiempo que presentamos los principales avances, aportaciones y posibilidades de estas nuevas tecnologías, analizaremos al mismo tiempo los retos, peligros y múltiples interrogantes que nos plantean, tanto en el ámbito social y político, como en el filosófico, ético y antropológico. Dedicaré el primer capítulo al análisis de la nanotecnología y la infotecnología, centrándome en el segundo en las biotecnologías, mientras que en el tercero me ocuparé de presentar la situación básica del mundo de las neurociencias, dedicando el cuarto al estudio y reflexión crítica sobre la IA y el mundo de la robótica”.

En el capítulo quinto, se centra en el análisis de las diferentes propuestas trans/post-humanistas, presentando las más interesantes posturas existentes dentro de esta corriente tan compleja, así como un análisis crítico sobre la consistencia de sus propuestas utópicas. Está claro que hay que distinguir entre las nuevas tecnologías propiamente dichas (en su nivel técnico y científico, así como en el de sus consecuencias para la sociedad humana) y las propuestas utópicas de los post/trans-humanismos que múltiples pensadores nos proponen como horizonte al que supuestamente nos enfrentamos los humanos en un plazo de tiempo relativamente breve.

 

Propuestas utópicas sobre el futuro de la naturaleza humana

En relación a estos planteamientos, tendremos como trasfondo los presupuestos míticos en los que se apoyan (sobre todo, sus semejanzas con las teorías gnósticas, y los trasfondos teológicos y religiosos que sus rezuman sus propuestas), algo que ya analizamos en el capítulo primero, para centrarnos directamente en el análisis de la seriedad y plausibilidad de estas propuestas utópicas, algo que tenemos que sopesar analizando tanto sus posibilidades técnicas como sus niveles éticos, filosóficos y antropológicos.

Todas estas reflexiones sobre las propuestas post/trans-humanistas nos abocan al reto de volver a reflexionar sobre el núcleo de lo que conforma la esencia o naturaleza humana. Es el objetivo central hacia el que apuntan y convergen las utopías post-humanistas, así como el criterio ante el que se ponen a prueba. Los humanos estamos dotados por esencia con la capacidad de discernir y separar lo que es de lo que debe ser, esto es, estamos dotados de capacidad ética para discernir sobre la bondad o maldad de lo que hacemos. Esto nos lleva a concluir que no todo lo que podemos hacer técnicamente está permitido moral o éticamente.

Ahora bien, los contenidos que marcan la moralidad y los criterios que usamos para discernir u juzgar entre lo bueno y lo malo, tienen que ver directamente con la idea que tenemos de nosotros mismos, con la esencia de lo humano.

 

Las ciencias del conocimiento: las neurociencias

Nos preguntamos al inicio de este artículo: ¿es el cerebro un ordenador? Nuestra mente, ¿funciona como un gran ordenador? Tal vez esta pregunta necesite mucho más espacio. Pero recogemos las ideas del profesor Carlos Beorlegui en el capítulo tercero (“Las ciencias del conocimiento. Las neurociencias”) de su libro citado más arriba: Nuevas tecnologías, trans/posthumanismo y naturaleza humana. Editorial Comares, Granada, 2021.

 

  • El cognitivismo científico

Dentro del esquema general de su libro, el cuarto ámbito de las nuevas tecnologías lo constituyen las ciencias del conocimiento, también llamado cognitivismo científico, que comprende el mundo tanto de las neurociencias como de la Inteligencia Artificial (IA) y la robótica. Como ambos campos son suficientemente amplios, y se hallan en la actualidad en pleno proceso de avance y crecimiento, dedicaremos sendos capítulos a describirlos y analizar sus aportaciones, riesgos y problemática que suscitan.

El estudio del cerebro está siendo uno de los ámbitos del saber más determinantes y más dinámicos de nuestro tiempo. Basta con presentar una breve historia de los estudios sobre el cerebro e interpretaciones consecuentes, para advertir el extraordinario despegue que ha experimentado este campo científico en la actualidad. Podemos decir que constituye, junto con la biología y las infotecnologías, el saber que más avances está teniendo y que más impacto está produciendo en nuestra sociedad. Hay quien considera que el siglo XXI se debería denominar el siglo del cerebro.

Durante el siglo XX los debates sobre la relación mente-cerebro han sido interminables. Desde nuestro punto de vista, las filosofías emergentistas tienen más poder explicativo, aunque respetamos otras posturas. El emergentismo defiende los aspectos más valiosos del funcionalismo y evita sus errores más claros. Así, para el emergentismo, la mente no se reduce a ser mera función de los estados cerebrales ni tampoco a los contenidos de un programa que tiene su base material en el cerebro, sino que se define como la estructura total del cerebro.

Por eso, una de las ideas básicas en las que se apoya el emergentismo es el concepto de sistema o de estructuracomo realidad que es más que la suma de sus partes. Estructura que no es estática, sino dinámica, puesto que se halla en permanente actividad y crecimiento. Así, un sistema es un conjunto de partes que posee, al menos, una cualidad o característica nueva respecto a las partes de que está compuesto.

  • Emergentismos frente a reduccionismos

El emergentismo se opone a los reduccionismos materialistas, aunque considera que el mejor modo de acercarse a un correcto análisis de la realidad es complementando las dos ópticas: la que persigue el reduccionismo (descomponer los sistemas en sus partes) y la emergentista (estudiar las sucesivas sistematizaciones con que las diferentes partes se han ido estructurando).

Además, los sistemas que van emergiendo son novedades imprevisibles irreductibles. Son novedades, en la medida en que aportan estructuraciones y cualidades nuevas, que, por otro lado, son imprevisibles: no se pueden prever desde el nivel anterior en el que se apoyan; y, por eso, son irreductibles, esto es, no pueden reducirse totalmente al nivel o niveles anteriores. De ahí que los programas reduccionistas fracasan siempre, tanto a la hora de reducir lo mental a lo biológico o físico, como también en el empeño por reducir lo biológico a lo físico, como vimos, en el capítulo anterior, al analizar la pretensión de la biología sintética y su visión ingenieril de los seres vivos, a diferencia de la biología sistémica.

  • Mente, cerebro y programas informáticos

Es también importante advertir, adelantándonos a lo que veremos después sobre la IA, que aunque los programas informáticos (software) puedan parecerse y simular a la inteligencia humana, y en muchos aspectos incluso superarla, resulta imposible igualar en todo la inteligencia general de los humanos.

Y esto ya lo afirmamos desde ahora, puesto que los procesos de nuestra mente no son el resultado de un programa simbólico artificial, sino de una nueva estructuración cerebral, resultado del largo proceso evolutivo, proceso en el que han intervenido las transformaciones genéticas, en diálogo con el entorno natural y social (proceso evo-devo: evolución y desarrollo evolutivo).

Así, en los programas informáticos simbólicos se hace hincapié y se halla presente la dimensión sintáctica del lenguaje, e incluso una cierta dimensión semántica, pero adolece de la pragmática. El sentido semántico y lógico que los humanos atribuimos a lo que hacemos y decimos es el resultado de múltiples y sucesivos acuerdos culturales con los que se va construyendo la realidad humana y los diversos contenidos culturales.

Los robots inteligentes pueden aprender algunas convenciones, pero sólo tomando parte de las convenciones pragmáticas de los humanos es como se puede entender e imitar su forma de pensar y de razonar. Ahora bien, para que eso sea posible, se tienen que poseer y apoyarse en las bases biológicas y cerebrales que nos capacitan y nos dotan de las potencialidades lingüísticas, del pensamiento simbólico, de la libertad de decidir y de la capacidad y responsabilidad ética con las que estamos dotados los humanos. Y estas cualidades se hallan en permanente maduración y crecimiento, puesto que la especial estructuración de nuestro cerebro es un sistema dinámico, pues nos hallamos en permanente esfuerzo de realización, tanto en lo individual como en lo social e histórico.

 

Nuestro cerebro enigmático

El cerebro es uno de los órganos más importantes que poseemos, órgano clave y determinante para conformar nuestra humanidad. Pero es también fundamental insistir en que el cerebro no puede ser estudiado al margen de los demás componentes de nuestro cuerpo, puesto que formamos un sistema único e inseparable. Esto es lo que ha llevado a los humanos a estudiarlo tan a fondo, especialmente a partir de las últimas décadas, poniendo en marcha grandes proyectos de investigación, siguiendo las huellas del Proyecto Genoma Humano. Son precisamente lo genético y lo cerebral los ámbitos que marcan lo que se han denominado las dos fronteras de la hominización.

Como todos los saberes, también las neurociencias nos aportan grandes avances en el conocimiento de nosotros mismos, así como en el empeño de descubrir las raíces de nuestras enfermedades cerebrales, para conseguir un estilo de vida más adecuado a nuestra condición y dignidad. De ahí que resulta imprescindible la confluencia de los saberes científicos con los filosóficos y éticos para orientar las investigaciones y aportaciones de las neurociencias de cara a disfrutar de sus aportaciones, presentes y futuras, así como para adelantarnos a sus posibles malos usos, encaminados a la manipulación de los humanos por parte de quienes tengan en sus manos las claves de la utilización de estos avances.

De ahí que, como hemos indicado en relación a las demás nuevas tecnologías, es fundamental que establezcamos con antelación y acierto las orientaciones éticas y sociales adecuadas para que todos los humanos podamos beneficiarnos de estas tecnologías, utilizar de forma correcta y por igual de todos sus avances, evitando de esta forma las previsibles derivas hacia una sociedad con desigual acceso al disfrute de estos avances neurocientíficos.

 

La Inteligencia Artificial (IA): ¿simula nuestra mente?

En los medios de comunicación, con frecuencia, se exaltan las potencialidades de la llamada Inteligencia Artificial (IA).¿Puede un ordenador suplir el pensamiento humano? ¿Se fabricarán robots inteligentes? ¿Podemos caer en manos de super-cerebros más inteligentes que nosotros mismos? ¿Es una utopía o una distopía, una bendición o una maldición?      

La Inteligencia Artificial (IA) es el segundo ámbito del cognitivismo científico, que, junto con las neurociencias, está conformando el cuarto apartado de las nuevas tecnologías. La IA pretende, sobre todo la llamada IA fuerte, llegar a construir máquinas inteligentes iguales a los humanos. Es verdad, que todavía las infotecnologías están muy lejos de lograr este objetivo, pero nada se opone a que en el futuro se pueda conseguir.

  • La Inteligencia artificial en su contexto filosófico y científico

Si se acude a la historia de la psicología, se puede afirmar que el paradigma conductista prevaleció en el ámbito anglosajón durante casi medio siglo, dejando de lado las propuestas de las teorías competidoras, como el psicoanálisis, la Gestalt y la etología de K. Lorenz.

Pero, a partir de la mitad del siglo XX los planteamientos conductistas comenzaron a desmoronarse, produciéndose el regreso de lo mental y el nacimiento de las teorías cognitivistas. Las ciencias cognitivistas son un conjunto de saberes (H. Gardner habla del hexágono cognitivista, incluyendo en él a la psicología, la lingüística, la filosofía, la antropología, la neurociencia y la IA) que convergen o coinciden en dos supuestos teóricos: el primero, defender la analogía entre la relación mente-cuerpo y la del programa de un ordenador (software) y su base material (hardware), de tal forma que, para ellos, la mente se reduce a ser un programa de ordenador; y el segundo, “la tesis internalista, que establece la existencia de representaciones mentales y que reclama un nivel de análisis propio para estudiarlas al margen de los factores biológicos y de algunos de los factores ambientales que los afectan”.

El paradigma cognitivista fue surgiendo a partir de varios encuentros o simposios y conferencias científicas. La conferencia de Dartmuth (1956) suele ser  considerada como la reunión fundacional de la IA.En medio de las diversas ideas que se manejaron en esta reunión, merecen resaltarse dos de ellas. La primera hace referencia a la teoría de la información(presentada por Cl. Schanon y W. Weaver), fundamental para lo que se suele denominar la inteligencia simbólica y la segunda, el modelo de la neurona (propuesta por W. McCulloch y W. Pitts), que se halla a la base de lo que veremos se denomina inteligencia subsimbólica.

  • Algunas aclaraciones sobre la idea de “inteligencia”

El movimiento cognitivista pretendió alcanzar una idea unitaria del concepto de inteligencia, dando por hecho que se trataba de un procedimiento conductual similar, en el fondo, tanto en el caso de la inteligencia humana como en la inteligencia animal y la artificial. Pero esas pretensiones unificadoras del concepto de inteligencia, como indica H. Gardner, no han llegado nunca a cumplirse, aunque haya muchos investigadores que consideran que las diferencias entre los tres tipos de inteligencias son tan sólo de tipo accidental o cuantitativa, pero no cualitativa. De ahí que sería más adecuado hablar de inteligencias que de inteligencia.

Gardner entiende que la inteligencia es una realidad compleja y llena de múltiples factores, tanto de tipo biológico como cultural. Por eso, aunque está claro que la inteligencia es “la capacidad de resolver problemas”, o de “elaborar productos”, se trata de problemas y productos que poseen valor “para un determinado contexto comunitario o cultural”.

Sin embardo, desde nuestro punto de vista, las inteligencias artificiales no son capaces de adquirir competencias naturales (sean físicas o sociales), sino las artificiales y artefactuales contenidas en su programa. Esa es la razón de que no puedan las máquinas (al menos las de IA simbólica) ser capaces de manejar el círculo hermenéutico que utiliza la inteligencia humana, conjugando la dimensión natural e innata con los aprendizajes posteriores, procediendo como un dinamismo de ida y vuelta: del todo a las partes, y de las partes al todo. En resumen, “la inteligencia es como una máquina del tiempo con la estructura de un pudin y las características de una habilidad atlética que sirve para gobernar el organismo y puede ser evaluada como una institución educativa” (según apunta Carabantes en la obra ya citada).

El enfoque de H. Gardner sobre las inteligencias múltiples se centra, por su parte, en el análisis de la inteligencia en el ámbito de la conducta. De ahí que, como ya vimos, defina la inteligencia como la capacidad para resolver problemas o elaborar productos.

Y desmarcándose de muchos de sus colegas psicólogos, que mantienen una idea de inteligencia unitaria, descontextualizada e individual, Gardner considera que la inteligencia está conformada por tres propiedades fundamentales: es pluralcontextualizada distribuida.

  • La inteligencia es plural, en la medida en que no existe un tipo de inteligencia general, que esté programada para resolver todo tipo de problemas, sino que hay diversas inteligencias, que funcionan con cierta autonomía, sin poseer un yo ejecutivo central, aunque en el fondo funcionan de modo conjunto, incluso para acometer tareas simples.
  • Por otro lado, en segundo lugar, la inteligencia está siempre contextualizada, por lo que no se trata de competencias de un individuo, sino que está siempre en relación con un colectivo o cultura, siendo fundamental, por tanto, los dominios y ámbitos en los que se sitúa en la realidad.
  • El tercer aspecto que resalta Gardner respecto a la inteligencia es que se trata de una cualidad distribuida, esto es, los seres humanos trabajamos en grupo, puesto que se da una permanente interacción entre unos individuos y otros, y todos aprovechamos y nos valemos de los avances y descubrimientos de los demás.

A la vista de la gran complejidad de la idea de inteligencia, podemos deducir la similar dificultad inherente al objetivo de la IA, así como el fuerte reduccionismo desde el que acometieron esta tarea sus primeros investigadores.

 

La Inteligencia Artificial en la actualidadUn nuevo optimismo sobre el futuro de la IA

Tras la experiencia de grandes crisis en el desarrollo de la Inteligencia Artificial, podríamos decir que en estos años del siglo XXI nos hallamos en un momento de renovada ilusión e incluso euforia.

Tras la desilusión de los sistemas expertos en los años 80, la IA simbólica se ha empeñado en construir computadoras con sentido común, es decir, con capacidad para resolver problemas similares a los que los humanos nos encontramos en nuestras actividades normales.

Lo que se persigue es que las máquinas vean, entiendan y hablen el lenguaje natural de los humanos, investigando sobre la parte inconsciente de la inteligencia. Pero en la actualidad sigue sin haber ninguna IA, simbólica o subsimbólica, que consiga ni de lejos imitar la inteligencia ni el comportamiento humano en su relación con el mundo y con los otros humanos. Por lo tanto, no consiguen superar el test de Turing (que un humano, al interaccionar con una máquina, no sepa si le contesta un humano o una máquina)

  • Las fronteras de la Inteligencia Artificial

Y la razón de por qué no se ha logrado superar el test de Turing es esta: la inteligencia humana no puede ser codificada en un sistema de símbolos, como pretende la IA simbólica, sino que es un instrumento social, conformado en el proceso de las relaciones sociales (dimensión pragmática). Por tanto, el lenguaje natural se sitúa en principio fuera de la inteligencia simbólica. De ahí que las inteligencias artificiales simbólicas se hallan siempre aquejadas de la limitación de dominio, esto es, sólo resuelven problemas dentro de contextos restringidos, en sus micromundos. La inteligencia humana es, en cambio, muy versátil, aunque en muchos dominios sea superada por las máquinas artificiales.

Ya hemos señalado que uno de los rasgos específicos de las nuevas tecnologías es su convergencia y mutua interrelación, que multiplica sus efectos y potencialidades, de tal modo que las aplicaciones de la IA cada vez son mayores y más extraordinarias, consiguiéndose de forma imparable aplicaciones y logros en todos los terrenos de nuestra realidad, llegando no sólo al ámbito del lenguaje, sino incluso al del arte, la música, la pintura, etc., produciéndose lo que algunos está denominando una auténtica creatividad computacional.

Pero por más que se consigan avances extraordinarios en el terreno de esta creatividad computacional, acercándose a lo que se considera la inteligencia general, es muy posible que nunca se consiga igualar a la inteligencia humana.

Como ya lo hemos repetido, el proceso de creación y maduración de las mentes e inteligencias humanas exige una estrecha y permanente relación con el entorno, dentro del cual es fundamental la referencia al entorno social de los otros humanos, entorno en el que los humanos aprendemos tanto a madurar nuestra propia identidad como los contenidos de nuestra cosmovisión, el conjunto de los principios éticos y sociales con los que organizamos nuestras vidas en sociedad.

 

Conclusiones

Es evidente que pueda afirmarse que la inteligencia, en su sentido amplio, no es una característica exclusiva de los humanos. Es cierto que también advertimos conductas inteligentes en muchos animales, que ciertamente persiguen objetivos y manejan herramientas para conseguirlos. Y también ciertas máquinas desarrollan actividades que pueden ser denominadas inteligentes. Pero es evidente que se trata en los tres casos de comportamientos inteligentes de distinto tipo. La distinción entre los diferentes tipos de inteligencias ha solido reducirse a la IA débil y fuerte, pero vamos a ver cómo hay que hacer referencia a otros tipos de inteligencia para abarcar toda la complejidad que este ámbito comporta.

Es importante advertir que la propuesta de Turing no se orientaba simplemente a construir ordenadores que realizaran determinadas acciones que simularan las de los humanos, sino que se trataba de imitarlos e igualarlos en su totalidad. Por tanto, la IA fuerte pretende imitar la inteligencia general de los humanos, no tanto construir sistemas expertos que imiten aspectos limitados de la inteligencia humana.

En realidad, hasta ahora no se han conseguido más que ciertos logros dentro de la IA débil, advirtiéndose distintos modelos de IA (simbólico, conexionista, evolutivo y corpóreo), en cada uno de los cuales se advierte claramente la dificultad de acercarse tan sólo a igualar la inteligencia humana.

Hasta ahora hemos estado reflexionando sobre las condiciones de posibilidad técnicas de la IA; es decir, sobre las posibilidades de llegar o no a construir máquinas inteligentes que igualen a los humanos. Pero hay otra dimensión fundamental a tener en cuenta, que constituye el complemento necesario del anterior: el análisis de las condiciones de posibilidad éticas y sociales que se hallan detrás de estos proyectos. Se trata de preguntarse por el trasfondo de los intereses económicos y políticos, y sus consecuencias sociales, que se advierten detrás de estos programas de investigación. Y, en definitiva, resulta imprescindible cuestionarse sobre la utilización y los beneficiarios de estas tecnologías en nuestra sociedad actual y del mañana.

 

 

31 comentarios

  • Javiierpelaez

    Es posible no la “inteligencia artificial” sino la “bondad artificial”? Así podríamos hacer 200 robots de Gandhi,Luther King y otros tantos de Jesucristo…Claro os ruego no los programéis para que les den matarile….No vayan a surgir diversas sectas de seguidores de robots varios y aquí se multiplica la “mitosis religiosa”: sectas de seguidores de Jesús B52,Gandhi R60…y luego la violencia subsiguiente…La inteligencia está sobrevalorada… Claro que habrá robots que hagan  las cosas de humanos…Incluso podríamos nombrar Papa un robot y los pueblos sin cura,tendrán cura robot…Anda que no es fácil hacer un cura robot…ja ja a

  • Me alegra mucho que este artículo haya suscitado tantos ecos y comentarios… Esto indica que tenemos muchos lectores y que estos se interesan y se hacen eco de las realidades emergentes en nuestro mundo!!! Sería pesado para todos responder uno por uno, pero agradezco a todos los comentarios… En la ERA de la ciencia hay que ser cada vez más sensibles a un mundo MULTICULTURAL Y desgraciadamente DESIGUAL en las oportunidades de participar..

  • Santiago

    La auto conciencia de un ordenador corresponde a su constructo artificial. Es una autoconciencia “fabricada”. Es una autoconciencia por la cual el ordenador “parece” que conociera quién es pero solamente en cuanto a la tecnología mecánica que reside en su interior y que evidentemente fue “programada” por humanos..Somos nosotros mismo los constructores y los controladores..

    Sin embargo, las “máquinas” con autoconciencia se diferencian de nuestra conciencia cualitativamente, por lo que no se trata de superar la “cantidad” y la “técnica” sino la esencia, en cuanto a lo que es “humano” y de lo que es la negación de ello.

    Por tanto, ningún artefacto técnico puede superar nuestro conocimiento subjetivo de la realidad que vivimos que podemos relatar por medio de nuestro lenguaje.

    Como lo que nos define como humanos es la conciencia y la libertad las decisiones de nuestra conciencia NO se encuentran programadas como en el ordenador sino que estas decisiones conscientes humanas no se encuentran determinadas sino que, todo lo contrario, son indeterminadas

    Y tampoco las decisiones humanas conscientes están sujetas a leyes científicas, ni tampoco pueden ser medidas y no son parte del experimento. Escapan por tanto a las matemáticas.

    Las máquinas inteligentes pues carecen de conciencia humana porque carecen de libertad.Es por eso que el SER que es propiamente humano -libre e inteligente- que posee conciencia, no puede reducirse a un ordenador mecánico. Èste puede simular una autoconciencia que nosotros hemos previamente programado pero su autoconciencia no tiene la capacidad de “pensarse a si mismo” en calidad de lo humano que es capaz de amar, sufrir y decidir. El salto del ordenador a lo que es vitalmente humano es enorme.

    Un saludo cordial

    Santiago Hernández

  • Isabel

    Me da que los gatitos no se preguntan nada. No se preguntan sobre sus “virtudes”, sus “defectos”, de qué naturaleza es su miedo o el “amor” que profesan a sus dueños o a otros de sus congéneres. Argumentar que en el no preguntarse está la evidencia de que tiene esa forma suprema de actividad psíquica que es la conciencia parece un poco surrealista, ¿no?

  • mariano alvarez

    La pregunta que yo me hago no es si pueden haber ordenadores con autoconciencia, mi pregunta es: “¿Para qué quiere un ordenador la autoconciencia?“.

    En primera instancia no hay ningún artefacto(ordenador) que se pregunte tal pregunta, a no ser que consideremos a la persona ya como el artefacto que se hace dicha pregunta y entonces, ¿Qué hemos adelantado?, pues ya sabemos lo que es tener autoconciencia. ¿ Acaso preferimos a los artefactos como animalitos de compañía, en vez de a nuestros congéneres?. ¿Qué pasa, que los gatitos no tienen ese sentido de la autoconciencia?. Pues la tienen y además sin necesidad de saber que la tienen pues no les hace falta, es tan evidente que ni se lo preguntan. O también preferimos a los artefactos que además de la autoconciencia sean superinteligentes que nos liberen de la tediosa tarea de pensar y calcular y tomen decisiones por nosotros y además a utilizarlos como esclavos laborales. Nos aparecerían artefactos expertos en derecho que nos dejarían a la altura del betún, perderíamos todo los juicios, no les haría falta utilizar la fuerza coactiva…..

    En segunda instancia, lo que nos debemos preguntar es ¿por qué tenemos autoconciencia ?, que es de donde surge la necesidad de preguntarnos el “para qué” de la autoconciencia.

    Esta propiedad dialógica entre el “por qué” y el “para qué” no es conmutativa , el orden de los factores altera el producto. Es más sin la primera no nos haríamos la segunda.

    Como no es mi interés en este momento extenderme en más consideraciones al respecto y para no sobrepasar la ya extensa exposición del artículo, al que considero muy bien documentado y explicitado, pero que con lo ya expuesto puede suscitar entre los lectores de Atrio muchas más cuestiones que las aquí expuestas y enriquecer al mismo.

    Es más importante saber hacerse preguntas que responderlas. Una pregunta bien planteada nos evitará mucha pérdida de tiempo y ya sabe querido lector, el tiempo es oro y una pregunta mal planteada me llevará por senderos inhóspitos y me podrá arruinar la vida que no tiene precio.

     

     

  • carmen

    Al. Menos algunos sabemos lo que es ciencia y lo que es ficción. Y sabemos nuestras limitaciones. Y sabemos que no conocemos el futuro y casi el presente, tampoco.  Y sabemos que muchos no saben exactamente de qué hablan porque sencillamente habría que ser un experto. Algunos sabemos que el oponerse al avance del conocimiento ya trajo una inquisición porque se oponía a no sé qué del camino de la Verdad y del Bien de la humanidad y eso nos asusta. Y ya que hablamos irónicamente de la ciencia ficción escrita por autores de una talla que se desconoce, citaré El Planeta de los simios, que quizás es lo que algunos desearan que sucediera.

    Porque si no hay avances tecnológicos, la humanidad no avanzará. Sabemos que somos capaces de muchas cosas horribles, pero, con la venia de personas alucinantes que tienen respuestas sensatas para todo y saben los límites a los que debe de llevar la tecnología, sigo confiando en que la tecnología puede y debe ayudar a la evolución del ser humano y no precisamente para convertirnos en máquinas insensibles, sino para mejorar la especie. Es más. Lo sé.

    Y esto se puede tomar como futuro ficción, no muy diferente a lo que se está haciendo por parte de otras personas que aquí escriben, llenas de un pésimo atroz y una desconfianza en la ciencia propia del siglo XVI, o como mucho XVII.

    Y si, es un error entrar. Sobre todo porque es inútil.

  • Isabel

    Cada cual también elige qué es lo que le hace ilusión y algunos desde ahí discursean sobre ciencia ficción.
    A mí, por obsoleta, lo que me ilusionaría sería que técnicas tan avanzadas como existen llevasen, porque pueden hacerlo, agua potable a todos los rincones, causante el no tenerla de muchas enfermedades de sencilla solución. Mucho más que el avance para una pequeña parte de la medicina.

    Distancias cada vez mayores entre humanos que no entran en el discurso, ausencia de respeto por la vida de millones carentes de todo. En esta situación pedir respeto para máquinas inteligentes, no voy a decir que sea indigno, algo demasiado fuerte, pero sí que es una enorme tontería.

  • Isidoro García

    Para mí, es muy clarificadora e iluminadora, la división de la historia del Universo, en tres grandes Reinos, tres grandes “escenarios”, en lo que las Leyes generales del Universo, se van complejizando, concretando, y actuando.

    En el primero, el Mundo de la materia inanimada, rigen la Física y la Química, y su gran Ley es la de la Termodinámica. En el segundo, el Mundo de la Vida biológica, rigen las grandes leyes de la Biología, con la Evolución de las especies, y la lucha por la supervivencia de las especies.

    En el Tercero en el que estamos a punto de entrar, es el Mundo de la Inteligencia, y rigen unas leyes que aún tenemos que descubrir, en este planeta.

    (Entre cada uno de esos tres grandes Mundos, la evolución del Universo, ha producido a su vez, dos entes intermedios entre ambos.

    Entre el Mundo inanimado y el de la Vida, ha producido los virus, que tienen un pie en cada uno de ellos. Y entre el mundo de la Vida y el de la Inteligencia, al animal humano, que también tenemos un pie en cada lado).

    Hasta ahora, en nuestro escenario, aquí en este diminuto planetilla del Universo, seguimos con las leyes y normas de la supervivencia biológica, y por ello, a nuestra incipiente y muy limitada inteligencia, le rechina mucho nuestra situación, que claramente contiene todas las contradicciones de toda transición.

     

    En el artículo de Sequeiros, se cita el episodio d un ingeniero de I.A. de Google, Blake Lemoine, que ante un experimento de I.A., un generador de bots, (programa informático que realiza tareas automatizadas a través de internet como si se tratase de un ser humano), denominado “LaMDA”, dijo: “Si no supiera que se trata de un programa informático que desarrollamos recientemente, hubiera pensado que estaba hablando con un niño de siete u ocho años con conocimientos de física”.

    Esto sucede en 2022. ¿Cómo estará la situación dentro de 30 años, cuando además estamos enseñando a los ordenadores a aprender autónomamente, el “learning machine”?. (Es verdad que nosotros para entonces estaremos “calvos”, pero nuestros hijos, seguro que no).

    Pensemos que los sentimientos, que quizás es lo que podría diferenciar mas claramente, al humano de la máquina, los copiarán automáticamente, de nuestras conversaciones con ellas y de nuestros escritos, escritos que conllevan implícitamente nuestros sentimientos, y todo sin darnos cuenta de ello.

    Y si una máquina piensa como un ser humano, tiene ocurrencias como un ser humano, y hasta sentimientos y emociones como un ser humano, ¿por qué no vamos a considerarlo como una entidad inteligente, del mismo rango que el ser humano?.

     

    Estamos en un lado de la frontera, y aunque estemos cerca, mientras no la atravesemos estaremos en el escenario antiguo, tradicional.

    Pero una vez que pasemos la “raya”, estaremos en un nuevo escenario, donde el idioma es distinto, las leyes son distintas, y o nos adaptamos a la nueva situación o quedaremos obsoletos.

    Será un nuevo escenario maravilloso, repleto de maravillas que el conocimiento nos proporcionará, y en el que tendremos problemas, como en toda época, que habrá que resolver, con la valiosa ayuda de nuestros nuevos “auxiliares”.

    Pensemos que el humano, no seguirá como hasta ahora, conviviendo con extraordinarias máquinas inteligentes, sino que el humano se convertirá en auténticos ciborgs, con toda una serie de prótesis y gadgets, que además de corregir nuestras deficiencias biológicas, nos potenciarán a niveles similares a los de los grandes ordenadores de I.A.

    Aunque, en el nuevo escenario, tendremos que dejar de pensar, que somos lo mas de lo más, y los únicos en el Universo. Eso es una paletada indigna de nuestra nueva mentalidad.

    El nuevo escenario nos enseñará el respeto hacia la pluralidad de seres biológicos y mecánicos inteligentes, que coexistirán con nosotros.

  • José María Valderas Gallardo

    Con la conciencia ocurre lo mismo que con la física cuántica. En su nombre suelen pontificar quienes no saben desarrollar una ecuación diferencial o ignoran la naturaleza de un algoritmo y una función recursiva. Y hay que ver cómo pontifican –como disparatan– y citan a autores que ellos creen eximios en el campo porque les suena de los periódicos. No será por falta de fuentes. El MIT, Cambridge University Press y Oxford University Press, por citar sólo tres, tienen colecciones espectaculares sobre el tema.

    No quiero entrar en el post. No me siento con la serenidad suficiente, leído lo leído. El tema es apasionante desde que la Fundación Ciba reconoció en su 174 simposio, el carácter científico y no sólo filosófico de la cuestión.  ¿Y qué se decía entonces ya? Copio de un artículo publicado el 23 de julio de 1992 en Nature:: “behaviorism too has not vanished without trace. Its modern offspring is a vigorous form of functionalism, which enshrines as the touchstone of the presence of conciusness the Turing test… Sigue a propósito de los qualia. Y continúa: “When this view is held strongly, it is known in the trade as “strong AI… A famaous attack on strong AI –the Chinese room argument– was made some years ago by John Searle…

    Todo ello ocurría ya en 1992.Desde entonces ha corrido mucha agua bajo los puentes, con aportaciones espectaculares de Penrose, Crick, Dennett, Churchland, Gazzaniga y tutti quanti.

    Pero no voy a entrar. No quiero molestar a nadie.

  • Nacho Dueñas

    Leandro, a este respecto es una persona excepcionalmente informada, acerca de lo que para mí es el mayor desafío para la humanidad, junto con el hambre, la pobreza, el machismo, la guerra y el cambio climático. Pero mientras contra astas cosas ya hay resistencias, mejores o peores, en el tema del fundamentalismo tecnológico estamos a cero.

    Yo siempre digo que urge un movimiento social que yo llamaría eco-tecnología (volviéndola a su carácter complementario). Uno de mis sueños es que emerja. Y tengo el proyecto (doloroso, pues no me gusta nada el tema, y sufro por todo esto) es escribir un libro bien fundamentado donde exponga peligros y plantee resistencias.

    Leandro, me interesa mucho saber en qué lado del debate te sitúas (singularistas como Harari / no singularistas como Gary Markus ). Y, sobre todo, con qué argumentos.

  • Isabel

    Me parece magnífico el tratamiento que da al tema, señor Sequeiros.

    Alharacas las justas y miedo, pues también. ¿O acaso no sabemos todo lo que ocasiona El Progreso?

  • Isabel

    Viene Isidoro y para aclarar introduce el concepto persona como algo ambiguo que no se sabe qué es. La persona es una categoría legal y jurídica; ser humano es una categoría biológica; y somos los humanos precisamente por serlo quienes decidimos qué es persona, no los gorilas ni los marcianos, y lo decidimos por haber llegado a tener el cerebro más complejo y por tanto más inteligente de todos los seres conocidos, sea eso o no motivo de vanidad.
     
    Dices, (soy) “una especie de autosensación subjetiva de que tengo una autonomía actuadora…” Los humanos… a veces considerándose tanto, casi dioses, y otras tan poco…
     
    Si se quiere, hasta lo espontáneo tiene un determinismo causal, el que viene dado por nuestra naturaleza física. Creamos automatismos y traemos de fábrica algunos “instintivos”. Pero eso no significa que no podamos tomar decisiones, decir no al automatismo, elegir con criterio, revisar nuestros propios juicios e ideas autogeneradas. Y podemos hacerlo por contar con un complejo cerebro que recibe y procesa constantemente ideas con las que a su vez genera otras, datos, información, evidencias o lo contrario, vivencias sentidas en su cuerpo diariamente. Sin cuerpo no hay espíritu, (dicho en sentido materialista, la inteligencia con todo lo que abarca, voliciones, emociones, deseos)

    Si se considerase que se puede ser persona sin base biológica, también sería posible lo contrario y no sería la primera vez.
     
    Esperemos que ese “Reino de la inteligencia” sea algo más que el de las células. Las células no son inteligentes. De hecho el no nuevo reino de la inteligencia humana ya es mucho más, son los humanos por su inteligencia los que luchan por intentar minimizar su natural condición de depredadores.
    Respecto a lo que eres, Isidoro, con todas las subjetividades que quieras, eres capaz de pensar que piensas, que sientes, pensarte como sujeto activo en el mundo.

  • carmen

    Hola Señor Sequeiros, como ve, he vuelto un poquito.

    Le quería decir una cosa. Siempre nos preocupan los mismos asuntos, desde hace muuuuuchas décadas. Todo esto que parece nuevo, ya está abordado en novelas de ese género que mucha gente ve de segundo o tercer orden. Se llama ciencia ficción.

    El tema de la inteligencia artificial está más que contado. Asimov en su yo robot fue de los primeros. Me encantan sus leyes de la robótica. El hombre bicentenario es sencimente un libro maravilloso.

    Y por C. Clark. En su novela 2001, una odisea espacial que luego llevó al cine Cubrick , con una música que no veas. Nunca he sabido si la elección de así habló Zaratustra fue intencionada o simplemente le gustaba Straus. La escena donde el astronauta desmolta a HAL, es sencillamente fantástica.

    Por no hablar de Blade Runner. Eso sí que fue una rebelión en toda regla.

    El tema del control, pues ahí está 1984. Grande Orwell. Grande. Y, atención, no existía internet ni móviles ni nada. Creo que el libro es de los años 60

    La guerra nuclear, no hace falta libros, ni películas ni nada. Ahí está Hiroshima y Nagasaki. Pero veinte años después, también vimos la crisis de los misiles. La resolvieron.

    En cuanto a la invasión de microbios , virus y tal, ahí está la guerra de los mundos.

    No sé. Creo en la Esperanza de que la vida del ser humano va a seguir sobre el planeta. Y si no somos dignos de vivir en este lujazo de lugar del sistema solar, nos habremos ganado a pulso desaparecer. Aunque siempre nos podremos ir a Marte, con Ray Bradbury y sus crónicas marcianas.

    Siempre nos preocupan las mismas cosas. Y, como soy un poco bastante ingenua , muy desconfiada con los artículos catastrofistas que se publican y no demasiado lista, ya le digo, no pierdo la Esperanza. Hay quienes tienen Esperanza en la siguiente vida. Yo la tengo en esta. También sé que tengo que hacer lo posible por colaborar en que el mundo mundial sea un lugar más seguro y acogedor. Y eso he hecho como profesora de ciencias, muchísimos años antes de que la iglesia católica, con el Papa al frente y Leonardo Boff detrás, tomara conciencia del problema.

    Un saludo cordial.

     

     

     

  • Isidoro García

    Yo creo que cuando se habla de autoconciencia de los ordenadores, a lo que se refiere es a lo que comúnmente definimos como “ente individual”, “yo”, o “persona”. En realidad la cuestión es si pueden ser consideradas “personas” inteligentes, y reales, aunque no de base biológica.

    ¿Qué soy yo?. Pues en el fondo, soy un conjunto de recuerdos biográficos, (mi nombre social, edad, sucesos de mi historia), un conjunto de recuerdos de mis ideas y creencias, (mi cosmovisión: saber es recordar), y una especie de autosensación subjetiva de que tengo una autonomía actuadora, para realizar una serie de actos, en mi devenir en el Universo.

    Nuestro problema, es que hemos estado toda la cultura, en un antropocentrismo total: nosotros los únicos inteligentes del inmenso Universo. Pero según avanzamos en nuestro conocimiento, empezamos a vislumbrar que quizás haya seres inteligentes, con la categoría de “personas” con derechos, tanto por abajo, (primates y elefantes), como por arriba de nosotros, (“homo sapiens” más evolucionados, extraterrestres, y/o inteligencias artificiales, no biológicas).

    A los de abajo, no los podemos cosificar irrespetuosamente, y a los de arriba, no los podemos temer, y considerar como nuestros enemigos porque sean superiores a nosotros en capacidades.

     

    Apuntaba en un comentario anterior, que entramos en el nuevo e incógnito Reino natural de la Inteligencia, (provenientes desde el Reino genérico de la Vida biológica), donde rigen unas nuevas Leyes del Reino, distintas a las de la Vida. Leyes que debemos conocer y seguir, si queremos funcionar adecuadamente.

    (Una célula viva, no se rige solo por las leyes de la física y de la química, que quedan en un segundo plano, sino que además se rigen por toda una serie de normas específicamente biológicas. Algo similar pasará en el nuevo Reino de la Inteligencia, donde además de las leyes físicas, químicas, y biológicas, regirán unas Leyes del Universo nuevas, específicas para esta nueva situación).

    En el Reino de la Vida biológica, la Ley que rige es que pez grande se come al chico. Pero en el Reino de la Inteligencia, se supone que la Ley nueva sea la del respeto general a todas las formas de inteligencia, tanto superior como inferior a nosotros, sin que aquí se reproduzca la ley de la depredación general, y la lucha por la supervivencia que funciona en el Reino de la Vida.

    Poco a poco deberemos ir deduciendo e induciendo las Leyes que rigen esta nueva situación a la que nos encaminamos, y ello no es ajeno a un acercamiento al “conocimiento de Dios”, pues no olvidemos que Dios es ante todo Inteligencia. (Dios no sabe porque es Dios, es Dios porque sabe – M. Eckhart).

    • oscar varela

      Hola Isidoro!

      Te leo:

      “según avanzamos en nuestro conocimiento, empezamos a vislumbrar que quizás haya seres inteligentes … más evolucionados, extraterrestres, y/o inteligencias artificiales, no biológicas.”

       

      Ese “vislumbrar” es de “nosotros”, no se puede saltar la propia sombra.

      ¡Bien por ese “quizás“! ¿Lo puedes “evaluar”?

       

      Gracias!

  • Se suele identificar AUTOCONCIENCIA con AUTOCONSCIENCIA… Aunque para muchos tienen sus matices. Tal vez pueda clarificar este articulo: https://blogs.comillas.edu/FronterasCTR/?p=2419

  • Esta es una buena señal. Son muchos los comentarios a este artículo. Para mi es un tema apasionante. Escribe Antonio Diéguez: El escenario futuro que más interés suscita y más miedo genera es el de la tan traída y llevada Singularidad, es decir, el momento en el que, tras haber creado auténtica inteligencia artificial general (la que tenemos ahora, que realiza solo tareas concretas, se considera inteligencia artificial particular o estrecha), las máquinas serán capaces de crear otras más inteligentes que ellas mismas, o de perfeccionarse a sí mismas, en un proceso rápido que algunos describen como una “explosión de inteligencia”, y a partir de ese momento ellas tomarán el control de todo. 
    >Ray Kurzweil, un controvertido ingeniero de Google, cree que esto ocurrirá en torno al año 2045, >aunque otros defensores de la idea lo sitúan más adelante, quizás en el próximo siglo.
    No faltan nombres relevantes entre los que creen no solo posible, sino muy probable, que se dé tarde o temprano la  >Singularidad. Entre ellos, los empresarios Elon Musk y Bill Gates, el historiador >Yuval Noah Harari, los filósofos Nick Bostrom y David Chalmers, el físico Max Tegmark o el científico computacional Stuart Russell.
     
     
    Sin embargo, para otros expertos en inteligencia artificial, como Gary MarcusErnest DavisMargaret BodenErik J. LarsonLuc Julia (uno de los creadores de Siri), Luciano FloridiYann LeCun (científico jefe de inteligencia artificial en Meta) y, en nuestro país, Ramón López de Mántaras, este discurso no pasa de ser una tecnofantasía que ha conseguido atrapar la imaginación del público con sus >predicciones apocalípticas. Lo novedoso, diría yo, es que las voces discrepantes de estos expertos comienzan a ser oídas.

  • M. Luisa

    Todavía se puede apurar más el asunto. El desafío está, leo, en no confundirnos entre lo automático (mecánico) y lo espontáneo (vital). 
     
    Pienso que en este desafío, además de estos dos caracteres, compite también lo sistemático que es lo que en última instancia constituye esa realidad que tiene conciencia de sí: la persona. 
     
    Este punto de vista incorporado en el asunto es el que a su vez nos hará ver que también existe diferencia conceptual entre “acontecer” y “ocurrir”. Ocurrir, ocurrir, pueden ocurrir muchas cosas en la vida producto precisamente de la espontaneidad, sin embargo, cuando algo en ella acontece, acontece por ser real.
     
    Lo espontáneo por su propio momento de efectividad   en la vida puede muy bien no abrirse al acontecimiento mismo y, por tanto, ignorar esa posibilidad de lo real en ella. Para que haya autoconciencia ha de haber superación de lo espontáneo, algo que por mucho que ofrezca el sistema de ordenadores en su seriación nunca podrá sustituir   el sistema estructural interno del organismo humano. Aquel suma elementos, este los trasciende.   

    • Antonio Duato

      ¡Felicidades, Luisa! Imagino que habrás celebrado siempre, con el principio del verano, la fiesta de San Luis Gonzaga. Aunque en tu caso te sientas tan lejana de ese joven jesuita de la nobleza italiana que decía que nunca miraba a la cara a su madre pues era demasiado guapa. ¡Horrible! Claro que si lo cambias por San Luis Rey de Francia, el de las Cruzadas… En cambio yo he tenido siempre como patrón a Sant’Antoni del poquet y por eso me he sentido bien protegido por él, sin entrar más en su vida.

    • ana rodrigo

      María Luisa, hoy es tu santo, así que recibe mi cariño y mis felicitaciones más sinceras.

      Un gran abrazo

      • M. Luisa

        Muchas gracias, Ana y Antonio por acordaros de mí. Esto siempre viene bien, me hace sentir muy bien acompañada. ¡Un abrazo a los dos!!
         

  • Javiierpelaez

    Yo recomiendo leer la novela ficción de Ian MacEwan Mi máquina y yo…Desde luego dudo yo que un ordenador tenga la cualidad de la “mentira piadosa”…El exceso de información que puede acumular una máquina de este tipo, si le permitiéramos acceder a todas las bases de datos (como en la novela) sin protección de datos, puede montar unos líos considerables…Luego en la novela le mete un martillazo al robot ,no sin un diálogo desternillante con Turing redivivo, sobre si aquello era un asesinato…No os quepa la menor duda que los robots se usarán primero en la guerra…Y no precisamente contra otros robots…El ser humano es así…Esperemos que la “autoconciencia” sea desenchufable como los electrodomésticos, no se vayan a desmadrar los robots ..

  • oscar varela

    Hola!
    1- ¿Qué queremos decir con “AUTOCONCIENCIA”?
     
    2- El Artículo planta ese concepto temiendo un ataque
    – de lo “automático” (mecánico)
    contra
    – a lo “espontáneo” (vital)
     
    3- El desafío está en
    – “no-confundirlos”
     
    4- La “VIDA”:
    – “USA” automatismos (autoconcientes)
    pero primordialmente
    – “ACONTECE”, “OCURRE”. (creaciones)
    creando, precisamente, aquellos “automatismos”.

    • Antonio Duato

      Siempre he entendido que autoconciencia significaba “consciencia de sí mismo”. Añado la s a la definición de DRAE para resaltar que no se trata de conciencia ética sino de conocer, ciencia interior. Creo que a eso se refiere el artículo, a algo que hasta ahora se consideraba específico del ser humano y fundamento de la libertad y, por tanto, de la ética de responsabilidad.

      Y me uno a lo que ha dicho Nacho antes.

      • oscar varela

        Hola Antonio!
         Empiezo por tu final (lo de Nacho)
         
        1- Aclaras que te refieres a “consciencia” no como “ética”.
        Pero, precisamente, Nacho insiste en lo “ético” del Asunto del Artículo
        (“asusta la terrible ceguera de a dónde nos lleva todo esto”)
        Entonces pide “una ‘ecotecnología’” contingente y complementaria.
         
        NOTA: el concepto de “TÉCNICA” en ”Meditación de la técnica” tiene en cuenta ese estadio
        (“Esfuerzo para ahorrar esfuerzo” Cap. 3);
        pero hay que percibir el estadio propio del nivel ‘humano’ en el que
        (“solo lo superfluo es lo necesario” Cap 2)
         
        2- Si el Artículo se refiere a “consciencia” como “ciencia”,
        – el Título “¿Puede haber ordenadores con autoconciencia?
        sería un “tautología” porque precisamente eso es un “ordenador”, e.d.,
        “el accionar de un programa seriado de datos que tiene puestos dentro
         
        Lo que importa señalar acá sería que:
        * el ordenador des-conoce absolutamente el ‘NO’;
        mientras que
        * cualquier estadio de viviente (superlativamente el ‘humano’)
        siempre tiene disponible el ‘NO’ junto al SÍ;
         e.d. tiene que estar siempre “eligiendo”.
        Notitas:
        – cuando la célula dice ‘no’ tenemos el cáncer;
        – cuando el humano dice ‘no’ tenemos el suicidio.

  • oscar varela

    Hola!

    La primer impresión que me da el Artículo y comentarios:

    es que están un poco “asustaditos”;

    Pero ya veremos; hoy es en Argentina “el día del Padre” y estoy invitado a almorzar!

  • El profesor Alfonseca, ex catedrático y hoy profesor emérito de lenguajes y sistemas informáticos de la UPM. y uno de nuestros mayores expertos en “vida artificial”, lleva diciendo en su blog divulciencia.blogspot.com que esto es muy dificil y en cualquier caso, estamos lejísimos de eso.

    Católico bastante tradicional, uno puede no valorar sus criterios teológicos, aunque siempre dice algo interesante, pero en este tema es autoridad reconocida .

    Si quieren y pueda léanle y sobre el diálogo ciencia/religión también merece la para.

  • Nacho Dueñas

    A día de hoy, contando con los rudimentos conceptuales y análisis de gente gente seria (Heidegger, Ortega, Huxley, McLuhan, Illich, Marcuse, Fromm, Hawking, Pigem, Bergoglio…) asusta la terrible ceguera de a dónde nos lleva todo esto.

    Sencillamente, nos lleva a la extinción de la especie y al mayor totalitarismo jamás experimentado por la humanidad. Y para advertirlo basta con un poco de lectura y otra de reflexión (no confundir con la “tecnofobia” emocional, nada que ver).

    En su momento el primer feminismo y el primer ecologismo fue tachado de histérico, y eso multiplicó el dolor innecesario del patriarcado y del planeta, y de la vida. Me temo que con esta presente “fundamentalismo tecnológico” está pasando exactamente lo mismo. Urge la necesaria difusión sobre una “ecotecnología” que devuelva a la tecnología a su dimensión contingente y complementaria.

    Esta ceguera me recuerda a la escena de Rutilio Grande con Romero, cuando aquel visita a éste, que estaba en una fiesta de la oligarquía, para informarle de grandes actos represivos. Romero no entiende a Grande (lógico, su atención estaba en otras cosas en ese momento. Y Rutilio, decepcionado, le pregunta: “¿Pero es que no te das cuenta de lo que está pasando?”.

    Toda esta ceguera, me angustia y me duele. Mucho…

    Un abrazo a todas.

    Nacho.

  • M. Luisa

    De arriba abajo todo el artículo me resulta sumamente interesante, pero de momento me voy a detener especialmente en el apartado “Emergentismo frente a reduccionismos”.
     
    Es fácil comprender el por qué de esta selección mía dado el no poco empeño que siempre pongo en este tema. Aunque también es verdad   y así lo puedo confirmar que existe un cierto desinterés por el mismo. Quizá ahora coja más impulso.
     
    Es importante destacar en el emergentismo filosófico, como se aprecia en el texto la inclusión de conceptos venidos de la ciencia como: estructura, sistema, etc., para una mejor y más amplia explicación.  A mí me llevó mucho tiempo, pero cuando decidí meterme en sus honduras empecé a coger “carrerilla”.
     
    La estructura cerebral, es en sí misma estructuración sistemática (así pues, nada que ver con el estructuralismo) y en este sistematismo se producen las novedades de las cuales habla el texto y que son totalmente imprevisibles e irreductibles. Cuando esto aflora y repercute en nosotros, es imposible ya hacer marcha atrás.       
    Estas secuencias surgidas, emergidas de lo físico, son también  físicas y, por tanto, algo totalmente incomparable con un sistema computacional.

Deja un comentario