Paolo Benanti, franciscano conventual, de 50 años
Desde hace años me preocupa cómo la humanidad va a afrontar los desafíos de los años veinte. Y, recientemente, ahí está el desafío de la IA generativa que se ha destapado en los últimos meses con boots capaces de crear imágenes y textos, difícilmente distinguibles de los producidos por personas que retratan y relatan la realidad. He intentado traer aquí la voz del teólogo franciscano, nombrado recientemente asesor del tema por Guterres, el secretario General de la ONU, Paolo Benanti. Civiltà Cattòlica le hace hoy una interesante entrevista . Pero no he podido leerla íntegra sin suscripción. Si alguien la enlaza, lo agradecermos. Pero sí que reproduzco íntegro el último artículo que aparece en su blog personal. AD.
China y la IA generativa: la censura se traslada a las fuentes
El pasado miércoles 11 de octubre, el Comité Nacional de Normalización de la Seguridad Cibernética , compuesto por representantes de la Administración del Ciberespacio de China (CAC), el Ministerio de Industria y Tecnología de la Información y organismos encargados de hacer cumplir la ley, publicó una nueva propuesta de regulación .
La IA generativa, como lo ejemplifican los resultados ChatGPT de OpenAI, obtiene la capacidad de realizar tareas mediante el análisis de datos históricos y genera contenido nuevo, como texto e imágenes, basado en esta capacitación. Hoy, tras la pandemia, la guerra de Ucrania y el estallido de nuevos conflictos como los de África y Oriente Medio, parece claro cómo las herramientas de inteligencia artificial aplicadas a las comunicaciones están cambiando por completo el escenario: nos sugieren qué leer, nos Nos perfilan, creando para nosotros una especie de paisaje digital personalizado, crean noticias falsas, es decir, textos, imágenes e incluso vídeos falsos que no se pueden distinguir de los productos reales. El poder de las comunicaciones masivas de la IA es tan fuerte y omnipresente que genera lo que podríamos llamar un quinto poder. Lo que está en juego es la capacidad de formar la opinión pública de manera generalizada y sistemática. Si nos remontamos al año 2008, resulta interesante releer lo que decidió el entonces CEO de Google, Erich Schmidt, sobre el apoyo que la compañía daría a los candidatos presidenciales. Y eligió a los demócratas y a Barack Obama.
Internet es política.
El Internet chino censurado única fuente para la IA
El proyecto de reglamento también subraya que los datos censurados en Internet chino no deberían servir como material de formación para estos modelos. Este acontecimiento se produce poco más de un mes después de que los reguladores concedieran permiso a varias empresas tecnológicas chinas, incluido el importante motor de búsqueda Baidu, para presentar al público en general sus chatbots generativos impulsados por IA.
El borrador de seguridad recientemente presentado requiere que las organizaciones que entrenan estos modelos de IA obtengan el consentimiento explícito de las personas cuyos datos personales, incluida la información biométrica, se utilizan para el entrenamiento. Además, las directrices incluyen instrucciones completas sobre cómo prevenir infracciones de propiedad intelectual.
Los países de todo el mundo están luchando por establecer marcos regulatorios para esta tecnología. China ve la IA como un área en la que aspira a competir con Estados Unidos y se ha fijado el objetivo de convertirse en líder mundial en este campo para 2030.
El artículo de Paolo Benanti sobre la necesidad de control de la IA generativa ( a fin de que no llegue a ser una IA DEgenerativa, añado), sugiere reflexiones -compartidas por muchos- que merecen el esfuerzo de pensarlas con detenimiento, de repensarlas (en común, si es posible) con fuerte y lúcido sentido crítico, y de compartirlas haciéndolas públicas. No sea que el gran Poder de siempre la utilice para incrementar su poder y la convierta en un ídolo indiscutible, cuasi sagrado. El Poder es muy amigo de “sacralizar” sus instrumentos de poder para someter (sobre todo las mentes) y así incrementar más su poder. Para el Poder la IA es -o puede ser- una máquina que no solo genera más poder sino que también DEgenera…, pues no persigue liberar y humanizar al Hombre, sino someterlo y controlarlo.-La primera reflexión que sugiere la IA es que es necesario insistir más en la necesidad de esculpir en nuestras mentes una verdadera JERARQUÍA DE VALORES ÉTICOS. (Esculpirla en nuestras mentes y corazones, no en piedra como el código de Hammurabi.)-Pero no basta con gravarla. Si queremos ser realistas es preciso establecer normas y medidas de control sobre el Poder, que demanda “libertad”, a fin de que no limite sus intereses. En este caso cabe decir: libertad sí, pero CON ÉTICA.-Ese PODER que regule el gran Poder, debe dimanar de los parlamentos, que -libres de verdad: esta es la gran CUESTIÓN pendiente- sean capaces de imponer normas exigentes y EFICACES CON ÉTICA. El hombre-mujer no son una máquina a usar y tirar… Digo que la gran CUESTIÓN es el cumplimiento eficaz de esas normas, porque “quis custodie custodes”?-A mi juicio el primer (no sé si el mejor) vigilante controlador debería ser la propia conciencia. (¡!) ¿Cómo se controlará ésta, siendo tan floja como es? Esta pregunta nos lleva al gran tema de la formación de una conciencia social ética -tema prioritario y sistemático en educación y en todos sus grados-: Hay que enseñar y formar para poder-saber convivir sin egos y sin ídolos (o con menos egos-ídolos.) Es decir, hay que HUMANIZAR antes que especializar en tecnologías. No digo que no se especialice -que es imprescindible-; digo que antes de especializar -o al menos al mismo tiempo- hay que humanizar y formar para saber convivir en armonía, sin ídolos y sin amos… (Ya sé que esto es un sueño, pero por el sueño hay que empezar para un día poder llegar a ser humanos, y en el fondo más sapiens.)-Internet, la IA etc. deben servir para progresar, para facilitar la vida y hacerla más grata, pero sobre todo para humanizarnos y hacernos más solidarios. Y humanizar es saber vivir con lo suficiente, moderadamente, sin ídolos. Los ídolos crean esclavos inconscientes. Por eso entre los temas de formación debe figurar el de la libertad sin ídolos, o el de la liberación de ídolos. De este tema parece que muchos no son conscientes. Por eso les seducen tanto los ídolos y se inmolan ante ellos -crecer y crecer…- sin conciencia de que así son más bien siervos, y, aunque no lo vean, también menos inteligentes de lo que se creen unos pocos con poder… Trabajar para ver-discernir mejor es una de las primeras tareas de la formación humana, humana de verdad.
La inteligencia es la percatación de relaciones entre las cosas;– es ver a éstas como miembros de una estructura,- en la cual cada una tiene su papel, su «sentido». Un ser que al cambiar la situación o estructura perciba el cambio de papel,– de las cosas integrantes, a pesar de que visualmente siguen siendo las mismas,- es un ser inteligente.- Ejemplo de este cambio es un palo que, siendo el mismo,- se usa unas veces para acercar el plátano y otras para alejarlo. Pero es un error definir la inteligencia como la posesión de conceptos– Köhler insiste muy justamente en que– se puede ser estúpido y demente manejando conceptos genéricos.Cuando hay inteligencia son éstos, sin duda, un auxiliar magnífico, pero no constituyen el intelecto. Las observaciones más interesantes de Köhler son aquellas en que– el animal, para resolver el problema,- tiene que ejecutar movimientos contrarios a los que el instinto le impone. – Nunca aparece tan clara la chispa de intelección- como en el conflicto contra el instinto y su superación.…………………………Se pone el plátano en un cajón cerca de los barrotes,– y al cajón se le quita la tabla opuesta a la jaula.En tal coyuntura, el mono no puede acercar a sí el plátano,- porque la tabla inmediatamente próxima se lo impide.- Tiene que coger un palo y empujar el plátano- hacia el otro lado del cajón que está libre,- y luego, por la derecha o por la izquierda del cajón, atraerlo a sí. Casi todos los animales de Köhler fracasaron en este ensayo,– de cariz más sencillo que otros.– Lo instintivo es acercar el plátano, lo inteligente es alejarlo,– haciéndose cargo de las circunstancias.…………………………… Un detalle curioso y que invita a la meditación es éste;– parece que había de ser más difícil traer un cajón desde lejos al sitio oportuno- que, viceversa, quitarlo simplemente para coger el plátano, que está del otro lado. Pues bien; esto es lo que cuesta más trabajo al chimpancé.– Es decir, que es más difícil prescindir mentalmente de una cosa instalada delante de nosotros, imaginando una estructura o situación nueva de que se halle ausente,- que añadir a lo presente un nuevo elemento. En la historia humana asimismo ocurre siempre:– que es más fácil agregar lo nuevo al pasado que desasirse de éste.- ¡Cuántas mejoras sociales no se lograrían sencillamente sin más que suprimir supervivencias del pretérito!…………………………..(Ortega y Gasset OCT3, 578-9)
Hola!
La inteligencia es la percatación de relaciones entre las cosas;
– es ver a éstas como miembros de una estructura,
– en la cual cada una tiene su papel, su «sentido».
Un ser que al cambiar la situación o estructura perciba el cambio de papel,
– de las cosas integrantes, a pesar de que visualmente siguen siendo las mismas,
– es un ser inteligente.
– Ejemplo de este cambio es un palo que, siendo el mismo,
– se usa unas veces para acercar el plátano y otras para alejarlo.
Pero es un error definir la inteligencia como la posesión de conceptos
– Köhler insiste muy justamente en que
– se puede ser estúpido y demente manejando conceptos genéricos.
Cuando hay inteligencia son éstos, sin duda, un auxiliar magnífico, pero no constituyen el intelecto.
Las observaciones más interesantes de Köhler son aquellas en que
– el animal, para resolver el problema,
– tiene que ejecutar movimientos contrarios a los que el instinto le impone.
– Nunca aparece tan clara la chispa de intelección
– como en el conflicto contra el instinto y su superación.
…………………………
Se pone el plátano en un cajón cerca de los barrotes,
– y al cajón se le quita la tabla opuesta a la jaula.
En tal coyuntura, el mono no puede acercar a sí el plátano,
– porque la tabla inmediatamente próxima se lo impide.
– Tiene que coger un palo y empujar el plátano
– hacia el otro lado del cajón que está libre,
– y luego, por la derecha o por la izquierda del cajón, atraerlo a sí.
Casi todos los animales de Köhler fracasaron en este ensayo,
– de cariz más sencillo que otros.
– Lo instintivo es acercar el plátano, lo inteligente es alejarlo,
– haciéndose cargo de las circunstancias.
……………………………
Un detalle curioso y que invita a la meditación es éste;
– parece que había de ser más difícil traer un cajón desde lejos al sitio oportuno
– que, viceversa, quitarlo simplemente para coger el plátano, que está del otro lado.
Pues bien; esto es lo que cuesta más trabajo al chimpancé.
– Es decir, que es más difícil prescindir mentalmente de una cosa instalada delante de nosotros, imaginando una estructura o situación nueva de que se halle ausente,
– que añadir a lo presente un nuevo elemento.
En la historia humana asimismo ocurre siempre:
– que es más fácil agregar lo nuevo al pasado que desasirse de éste.
– ¡Cuántas mejoras sociales no se lograrían sencillamente sin más que suprimir supervivencias del pretérito!
…………………………..
(Ortega y Gasset OCT3, 578-9)
“La situación actual a nivel planetario escapa al control humano.
Hemos creado la Inteligencia Artificial Autónoma que ya no depende de nuestras decisiones.
¿Quién, con sus miles y miles de millones de algoritmos, impide que ella pueda optar por la destrucción de la humanidad?”
Leonardo Boff
https://www.atrio.org/2024/01/tirar-del-freno-de-seguridad-ante-la-gravedad-de-la-crisis-actual/#more-34441