Otros temas

Autores

Archivo de entradas

Temas

Fechas

Calendario

enero 2024
L M X J V S D
1234567
891011121314
15161718192021
22232425262728
293031  
7143 Artículos. - 108903 Comentarios.

El control de la IA generativa decisivo para configurar la sociedad en este decenio

Paolo Benanti, franciscano conventual, de 50 años

Desde hace años me preocupa cómo la humanidad va a afrontar los desafíos de los años veinte. Y, recientemente, ahí está el desafío de la IA generativa que se ha destapado en los últimos meses con boots capaces de crear imágenes y textos, difícilmente distinguibles de los producidos por personas que retratan y relatan la realidad. He intentado traer aquí la voz del teólogo franciscano, nombrado recientemente asesor del tema por Guterres, el secretario General de la ONU, Paolo Benanti. Civiltà Cattòlica le hace hoy una interesante entrevista . Pero no he podido leerla íntegra sin suscripción. Si alguien la enlaza, lo agradecermos. Pero sí que reproduzco íntegro el último artículo que aparece en su blog personal. AD.

China y la IA generativa: la censura se traslada a las fuentes

China acaba de publicar un borrador de reglamento de seguridad para empresas que brindan servicios de inteligencia artificial (IA) generativa, que impone restricciones a las fuentes de datos utilizadas para entrenar modelos de IA. El proyecto de reglamento subraya que los datos censurados en Internet en China no deberían servir como material de formación para estos modelos. Esto resulta interesante en varios sentidos.

El pasado miércoles 11 de octubre, el Comité Nacional de Normalización de la Seguridad Cibernética , compuesto por representantes de la Administración del Ciberespacio de China (CAC), el Ministerio de Industria y Tecnología de la Información y organismos encargados de hacer cumplir la ley, publicó una nueva propuesta de regulación .

La IA generativa, como lo ejemplifican los resultados ChatGPT de OpenAI, obtiene la capacidad de realizar tareas mediante el análisis de datos históricos y genera contenido nuevo, como texto e imágenes, basado en esta capacitación. Hoy, tras la pandemia, la guerra de Ucrania y el estallido de nuevos conflictos como los de África y Oriente Medio, parece claro cómo las herramientas de inteligencia artificial aplicadas a las comunicaciones están cambiando por completo el escenario: nos sugieren qué leer, nos Nos perfilan, creando para nosotros una especie de paisaje digital personalizado, crean noticias falsas, es decir, textos, imágenes e incluso vídeos falsos que no se pueden distinguir de los productos reales. El poder de las comunicaciones masivas de la IA es tan fuerte y omnipresente que genera lo que podríamos llamar un quinto poder. Lo que está en juego es la capacidad de formar la opinión pública de manera generalizada y sistemática. Si nos remontamos al año 2008, resulta interesante releer lo que decidió el entonces CEO de Google, Erich Schmidt, sobre el apoyo que la compañía daría a los candidatos presidenciales. Y eligió a los demócratas y a Barack Obama.

Schmidt ha dicho abiertamente que Obama logró el éxito, al menos en parte, gracias a Internet: “Cuando empezó, no tenía suficiente dinero para anuncios masivos de televisión”, dijo Schmidt, señalando que Obama luego utilizó Internet para conseguir apoyo y donaciones y probablemente los servicios de creación de perfiles de Google para saber a quién contactar. Desde entonces sabemos que un sistema de Plataformas puede ser decisivo en los resultados electorales.
 Trump también utilizó internet con su maquinaria electoral y no sin polémica (en 2016). En más de un anuncio pro-Trump se ha utilizado imágenes propagandísticas de Rusia y Bielorrusia en importantes campañas publicitarias. A esto le siguieron todas las controversias e investigaciones sobre el funcionamiento del mercado publicitario en Internet llevadas a cabo desde el extranjero y por los rusos.

Internet es política.

Internet, las Plataformas, Google y hoy las IA generativas que se alimentan de Internet y sus expresiones son instrumentos de enorme poder, no sólo teórico sino también práctico en la vida democrática de la segunda década de este siglo.
Surge así una “preocupación” geopolítica. Los efectos y el poder de este nuevo Bignami [Coleccción de libritos con síntesis de todas las materias, muy divulgados en Italia por la editarial Bignami. NdT] de finales de los años 20 de este siglo pueden convertirlo no sólo en un instrumento que refleje el sentido común en sus resultados sino en el verdadero nuevo productor de opinión pública. Esta preocupación, especialmente por los efectos de las ideas que pueden distribuirse de manera generalizada mediante la nueva IA generativa, también ha llegado a China.
 El documento del comité chino recomienda realizar una evaluación de seguridad del contenido utilizado para entrenar modelos de IA generativa disponibles públicamente. Los contenidos que superen el “5% de información ilegal y nociva”, leemos en el texto que hemos traducido gracias a sistemas automáticos, serán incluidos en una lista negra específica. Esta categoría incluye contenidos que incitan al terrorismo, la violencia, la subversión del sistema socialista, dañan la reputación del país y acciones que socavan la cohesión nacional y la estabilidad de la sociedad.
 

El Internet chino censurado única fuente para la IA

El proyecto de reglamento también subraya que los datos censurados en Internet chino no deberían servir como material de formación para estos modelos. Este acontecimiento se produce poco más de un mes después de que los reguladores concedieran permiso a varias empresas tecnológicas chinas, incluido el importante motor de búsqueda Baidu, para presentar al público en general sus chatbots generativos impulsados ​​por IA.

 Desde abril, la CAC ha comunicado constantemente su requisito de que las empresas proporcionen evaluaciones de seguridad a los reguladores antes de presentar al público servicios generativos basados ​​en IA. En julio, la Autoridad Reguladora del Ciberespacio había publicado un conjunto de directrices que regulaban estos servicios, que según los analistas de la industria eran mucho menos onerosas que las medidas propuestas en el borrador inicial de abril.

El borrador de seguridad recientemente presentado requiere que las organizaciones que entrenan estos modelos de IA obtengan el consentimiento explícito de las personas cuyos datos personales, incluida la información biométrica, se utilizan para el entrenamiento. Además, las directrices incluyen instrucciones completas sobre cómo prevenir infracciones de propiedad intelectual.

Los países de todo el mundo están luchando por establecer marcos regulatorios para esta tecnología. China ve la IA como un área en la que aspira a competir con Estados Unidos y se ha fijado el objetivo de convertirse en líder mundial en este campo para 2030.

El desafío está lanzado. ¿Encontrará la algorítmica un lugar en esta batalla?

5 comentarios

  • Juan A. Vinagre

    El artículo de Paolo Benanti sobre la necesidad de control de la IA generativa ( a fin de que no llegue a ser una IA DEgenerativa, añado), sugiere reflexiones -compartidas por muchos- que merecen el esfuerzo de pensarlas con detenimiento, de repensarlas (en común, si es posible) con fuerte y lúcido sentido crítico, y de compartirlas haciéndolas públicas. No sea que el gran Poder de siempre la utilice para incrementar su poder y la convierta en un ídolo indiscutible, cuasi sagrado. El Poder es muy amigo de “sacralizar” sus instrumentos de poder para someter (sobre todo las mentes) y así incrementar más su poder. Para el Poder la IA es  -o puede ser-  una máquina que no solo genera más poder sino que también DEgenera…, pues no persigue liberar y humanizar al Hombre, sino someterlo y controlarlo.-La primera reflexión que sugiere la IA es que es necesario insistir más en la necesidad de esculpir en nuestras mentes una verdadera JERARQUÍA DE VALORES ÉTICOS. (Esculpirla en nuestras mentes y corazones, no en piedra como el código de Hammurabi.)-Pero no basta con gravarla. Si queremos ser realistas es preciso establecer normas y medidas de control sobre el Poder, que demanda “libertad”, a fin de que no limite sus intereses. En este caso cabe decir: libertad sí, pero CON ÉTICA.-Ese PODER que regule el gran Poder, debe dimanar de los parlamentos, que -libres de verdad: esta es la gran CUESTIÓN pendiente- sean capaces de imponer normas exigentes y EFICACES CON ÉTICA. El hombre-mujer no son una máquina a usar y tirar… Digo que la gran CUESTIÓN es el cumplimiento eficaz de esas normas, porque “quis custodie custodes”?-A mi juicio el primer (no sé si el mejor) vigilante controlador debería ser la propia conciencia. (¡!)  ¿Cómo se controlará ésta, siendo tan floja como es?  Esta pregunta nos lleva al gran tema de la formación de una conciencia social ética -tema prioritario y sistemático en educación y en todos sus grados-: Hay que enseñar y formar para poder-saber convivir sin egos y sin ídolos (o con menos egos-ídolos.) Es decir, hay que HUMANIZAR antes que especializar en tecnologías. No digo que no se especialice -que es imprescindible-; digo que antes de especializar -o al menos al mismo tiempo- hay que humanizar y formar para saber convivir en armonía, sin ídolos y sin amos… (Ya sé que esto es un sueño, pero por el sueño hay que empezar para un día poder llegar a ser humanos, y en el fondo más sapiens.)-Internet, la IA etc. deben servir para progresar, para facilitar la vida y hacerla más grata, pero sobre todo para humanizarnos y hacernos más solidarios. Y humanizar es saber vivir con lo suficiente, moderadamente, sin ídolos. Los ídolos crean esclavos inconscientes. Por eso entre los temas de formación debe figurar el de la libertad sin ídolos, o el de la liberación de ídolos. De este tema parece que muchos no son conscientes. Por eso les seducen tanto los ídolos y se inmolan ante ellos -crecer y crecer…- sin conciencia de que así son más bien siervos, y, aunque no lo vean, también menos inteligentes de lo que se creen unos pocos con poder…  Trabajar para ver-discernir mejor es una de las primeras tareas de la formación humana, humana de verdad.

  • oscar varela

    La inteligencia es la percatación de relaciones entre las cosas;– es ver a éstas como miembros de una estructura,- en la cual cada una tiene su papel, su «sentido». Un ser que al cambiar la situación o estructura perciba el cambio de papel,– de las cosas integrantes, a pesar de que visualmente siguen siendo las mis­mas,- es un ser inteligente.- Ejemplo de este cambio es un palo que, siendo el mismo,- se usa unas veces para acercar el plátano y otras para alejarlo. Pero es un error definir la inteligencia como la posesión de conceptos– Köhler insiste muy justamente en que– se puede ser estúpido y demente manejando conceptos genéricos.Cuando hay inteligencia son éstos, sin duda, un auxiliar magnífico, pero no constituyen el intelecto. Las observaciones más interesantes de Köhler son aquellas en que– el animal, para resolver el problema,- tiene que ejecutar movimien­tos contrarios a los que el instinto le impone. – Nunca aparece tan clara la chispa de intelección- como en el conflicto contra el instinto y su superación.…………………………Se pone el plátano en un cajón cerca de los barrotes,– y al cajón se le quita la tabla opuesta a la jaula.En tal coyuntura, el mono no puede acercar a sí el plátano,- porque la tabla inmedia­tamente próxima se lo impide.- Tiene que coger un palo y empujar el plátano- hacia el otro lado del cajón que está libre,- y luego, por la derecha o por la izquierda del cajón, atraerlo a sí. Casi todos los animales de Köhler fracasaron en este ensayo,– de cariz más sencillo que otros.– Lo instintivo es acercar el plátano, lo inteligente es alejar­lo,– haciéndose cargo de las circunstancias.…………………………… Un detalle curioso y que invita a la meditación es éste;– parece que había de ser más difícil traer un cajón desde lejos al sitio opor­tuno- que, viceversa, quitarlo simplemente para coger el plátano, que está del otro lado. Pues bien; esto es lo que cuesta más trabajo al chimpancé.– Es decir, que es más difícil prescindir mentalmente de una cosa instalada delante de nosotros, imaginando una estructura o situación nueva de que se halle ausente,- que añadir a lo presente un nuevo elemento. En la historia humana asimismo ocurre siempre:– que es más fácil agregar lo nuevo al pasado que desasirse de éste.- ¡Cuántas mejoras sociales no se lograrían sencillamente sin más que suprimir supervivencias del pretérito!…………………………..(Ortega y Gasset OCT3, 578-9)

    • oscar varela

      La inteligencia es la percatación de relaciones entre las cosas;
      – es ver a éstas como miembros de una estructura,
      – en la cual cada una tiene su papel, su «sentido».
       
      Un ser que al cambiar la situación o estructura perciba el cambio de papel,
      – de las cosas integrantes, a pesar de que visualmente siguen siendo las mis­mas,
      – es un ser inteligente.
      – Ejemplo de este cambio es un palo que, siendo el mismo,
      – se usa unas veces para acercar el plátano y otras para alejarlo.
       
      Pero es un error definir la inteligencia como la posesión de conceptos
      – Köhler insiste muy justamente en que
      – se puede ser estúpido y demente manejando conceptos genéricos.
      Cuando hay inteligencia son éstos, sin duda, un auxiliar magnífico, pero no constituyen el intelecto.
       
      Las observaciones más interesantes de Köhler son aquellas en que
      – el animal, para resolver el problema,
      – tiene que ejecutar movimien­tos contrarios a los que el instinto le impone.
      – Nunca aparece tan clara la chispa de intelección
      – como en el conflicto contra el instinto y su superación.
      …………………………
      Se pone el plátano en un cajón cerca de los barrotes,
      – y al cajón se le quita la tabla opuesta a la jaula.
      En tal coyuntura, el mono no puede acercar a sí el plátano,
      – porque la tabla inmedia­tamente próxima se lo impide.
      – Tiene que coger un palo y empujar el plátano
      – hacia el otro lado del cajón que está libre,
      – y luego, por la derecha o por la izquierda del cajón, atraerlo a sí.
       
      Casi todos los animales de Köhler fracasaron en este ensayo,
      – de cariz más sencillo que otros.
      – Lo instintivo es acercar el plátano, lo inteligente es alejar­lo,
      – haciéndose cargo de las circunstancias.
      ……………………………
       
      Un detalle curioso y que invita a la meditación es éste;
      – parece que había de ser más difícil traer un cajón desde lejos al sitio opor­tuno
      – que, viceversa, quitarlo simplemente para coger el plátano, que está del otro lado.
       
      Pues bien; esto es lo que cuesta más trabajo al chimpancé.
      – Es decir, que es más difícil prescindir mentalmente de una cosa instalada delante de nosotros, imaginando una estructura o situación nueva de que se halle ausente,
      – que añadir a lo presente un nuevo elemento.
       
      En la historia humana asimismo ocurre siempre:
      – que es más fácil agregar lo nuevo al pasado que desasirse de éste.
      – ¡Cuántas mejoras sociales no se lograrían sencillamente sin más que suprimir supervivencias del pretérito!
      …………………………..
      (Ortega y Gasset OCT3, 578-9)

Deja un comentario