España
La inteligencia artificial en la encrucijada: qué hay detrás del ruido sobre ChatGPT
Por: Pablo Jiménez Arandia
La popularización y el hype en torno al software generador de textos ha llevado los riesgos de la IA al debate público. Voces expertas reclaman que su desarrollo se aleje de una vez por todas del afán de lucro.
“Creemos que la inteligencia artificial prácticamente no tiene límites cuando de hecho es extremadamente limitada”. Ramón López de Mántaras describe así en un artículo reciente qué podemos esperar de una tecnología que desde hace semanas está en boca de todos. De Mántaras no es precisamente un cualquiera: el científico catalán, profesor del CSIC, investiga este campo desde la década de 1970 y ha sido premiado por asociaciones de investigadores en todo el mundo. “Y lo que es muy importante: [la IA] no tiene nada que ver con la inteligencia humana”.
En noviembre pasado la compañía estadounidense OpenAI lanzó la última versión de ChatGPT, un software de generación de textos al que cualquiera puede acceder sin coste aparente —los usuarios sí han de ceder a la empresa datos como su edad o teléfono móvil, además de la información ofrecida durante la conversación—. A partir de la pregunta o indicación adecuadas, la herramienta es capaz de devolver un texto generalmente bien escrito y coherente. Aunque si la charla se complica es fácil que el programa caiga en errores en sus respuestas.
La popularización de estos robots conversacionales plantea muchas preguntas. Muchas de ellas tienen que ver con sus riesgos, pero también con sus limitaciones. ¿Tienen algo de inteligentes estos programas informáticos?
Desde su lanzamiento los usuarios mundiales de este programa se han disparado. También los titulares en los medios de comunicación especulando sobre las supuestas capacidades de este producto para replicar la inteligencia y creatividad humanas. Algunas empresas incluso han justificado despidos bajo el argumento de que esta rama de la IA puede ya llevar a cabo tareas hasta ahora hechas por trabajadores de carne y hueso.
Las grandes tecnológicas de Silicon Valley están tirando del carro de esta perfecta campaña de marketing. Microsoft, tras inyectar 10.000 millones de dólares en OpenAI, ya ha anunciado que integrará ChatGPT en su buscador Bing. Mientras que Google hará lo mismo con Bard, su propio chatbot generativo. Su objetivo, según han declarado, es ir incorporando versiones de esta tecnología a otros de sus servicios, desde el correo electrónico a los procesadores de texto que diariamente usan millones de personas en todo el mundo.
Los riesgos de los “loros estocásticos”
La popularización de estos robots conversacionales plantea muchas preguntas. Muchas de ellas tienen que ver con sus riesgos, pero también con sus limitaciones. ¿Tienen algo de inteligentes estos programas informáticos?
Citando al filósofo de la ciencia Daniel Dennet, De Mántaras explica que lo que ChatGPT y otras herramientas similares tienen “no es inteligencia sino habilidades sin comprensión”. Estas habilidades se podrían comparar por ejemplo con el montaje de un tren de juguete en el que hay que acertar la posición en la que va cada vagón del tren que queremos ensamblar.
Softwares como ChatGPT son muy buenos combinando secuencias de palabras a partir de la probabilidad de que tenga o no sentido ubicarlas en un lugar determinado de la frase. Pero carecen de referencia alguna sobre el significado de cada una.
Son por tanto sistemas —en palabras de De Mántaras— “muy hábiles llevando a cabo tareas concretas” pero que no comprenden nada sobre la naturaleza de estas tareas, “debido a la ausencia de conocimientos generales sobre el mundo”. Esta habilidad para encadenar palabras se construye a partir de patrones detectados en la ingente cantidad de información con la que estos programas han sido entrenados.
Softwares como ChatGPT son muy buenos combinando secuencias de palabras a partir de la probabilidad de que tenga o no sentido ubicarlas en un lugar determinado de la frase
En 2021 varias investigadoras publicaron un artículo sobre los peligros de estos modelos de lenguaje, a los que bautizaron como “loros estocásticos”. O lo que es lo mismo, máquinas capaces de repetir aquello que han observado muchas veces, pero sin atender a su veracidad.
En el texto las autoras, entre otras recomendaciones, exigían un mayor cuidado al trabajar las bases de datos con las que estos algoritmos se construyen y no volcar en ellos toda la información presente en Internet —precisamente lo que hace ChatGPT—. O realizar pruebas controladas de los sistemas antes de abrirlos al público, para asegurarse de que su uso no infringe daños o va en contra de los valores éticos de quien lo impulsa.
En las últimas semanas, al mismo tiempo que la IA generativa ganaba terreno en las conversaciones en el ascensor, el trabajo o el bar, se ha sucedido también un goteo de historias inquietantes en torno a la utilización de estos programas.
En EE UU, un profesor universitario explicó a comienzos de abril a The Washington Post cómo se sintió después de que ChatGPT le acusara de haber abusado de un alumno en un viaje de estudios. Algo que, en el mundo real, nunca ocurrió. El programa incluso usó como fuente de su acusación un artículo del citado medio. Un artículo, de nuevo, que nunca ha existido. “Fue bastante escalofriante”, aseguró el docente. “Una acusación de este tipo es increíblemente dañina”.
Su capacidad para vestir como cierta información engañosa o directamente falsa no es la única preocupación en torno a estas tecnologías. También lo es el impacto que su uso pueda tener en contextos determinados o frente a personas vulnerables. En Bélgica, un ciudadano se quitó la vida después de mantener largas conversaciones con un bot de IA que le envió mensajes confusos.
El argumento habitual de las tecnológicas creadoras de estos productos es que estamos todavía ante modelos en fase de desarrollo, cuya precisión y fiabilidad irá mejorando con su uso. Pero cada vez más voces piden que en ese mientras tanto los gobiernos fijen límites o directamente prohíban su uso.
Italia ha sido el primero en Europa en bloquear el uso de ChatGPT en su territorio, mientras investiga si el tratamiento que la aplicación hace de los datos de sus usuario
Este último paso es el que ha tomado la agencia italiana de protección de datos. El país transalpino ha sido el primero en Europa en bloquear el uso de ChatGPT en su territorio, mientras investiga si el tratamiento que la aplicación hace de los datos de sus usuarios —y que sirven para su entrenamiento— se ajusta a la ley europea.
Entre otros argumentos el regulador alega que la información suministrada por la aplicación no siempre es verídica —lo que ”da lugar a un tratamiento inexacto de los datos personales”— y critica que no haya un control real de la edad de los usuarios que la utilizan, abriendo la puerta a “la exposición de los menores a respuestas totalmente inadecuadas con respecto a su nivel de desarrollo y autoconocimiento”. A pesar de que OpenAI desaconseja su uso entre menores de 13 años, cualquiera puede acceder a la aplicación.
España podría seguir los pasos de Italia en las próximas semanas. La agencia española de protección de datos (AEPD) ha pedido a la Unión Europea que evalúe las implicaciones de ChatGPT en la privacidad de los usuarios. La AEPD entiende que las operaciones de procesamiento global que “pueden tener un impacto significativo en los derechos de las personas y requieren decisiones coordinadas a nivel europeo”, señaló un portavoz de la agencia.
¿Qué camino seguir?
El debate sobre cómo aplacar los riesgos de la IA no es nuevo. Desde hace años investigadores, activistas y comunidades afectadas por estas tecnologías alertan sobre sus peligros. Estos no se reducen a los errores o imprecisiones que el software pueda cometer, sino que incluyen cuestiones relacionadas con las decisiones humanas detrás de su diseño y quién toma éstas —casi siempre grandes corporaciones occidentales en busca del máximo lucro—.
Los efectos negativos de la IA han sido ampliamente documentados. Y van desde el deterioro de los derechos laborales de trabajadores en todo el mundo a la datificación de los sistemas de control en las fronteras que castigan a la población migrante. Los gobiernos también usan herramientas de este tipo para castigar a las capas sociales más pobres y policías y empresas insisten en utilizar el reconocimiento facial, una técnica poco precisa que discrimina a las personas por su origen étnico.
A finales de marzo la controvertida organización Future of Life Institute publicó una carta abierta reclamando una pausa de “al menos seis meses en el desarrollo y pruebas de sistemas de IA más poderosos que GPT4”, la última versión del popular algoritmo. La misiva, que ya lleva cerca de 20.000 adhesiones, incluyó la firma de un variado grupo de personalidades. Entre ellas la del segundo hombre más rico del mundo, Elon Musk, uno de los fundadores e inversores de OpenAI. De Mántaras, además de otros muchos investigadores de prestigio, también figura en la lista.
Los firmantes reclaman un desarrollo seguro de estas herramientas y que no se abran al público hasta garantizar que sus efectos serán positivos para la ciudadanía global. Y advierten de la “carrera sin control” en la que han entrado los grandes laboratorios de IA para crear “poderosas mentes digitales que nadie —ni siquiera sus creadores— puede entender, predecir o controlar de forma fiable”.
La carta en cuestión ha sido ampliamente recogida en medios de comunicación de todo el mundo. Pero también ha recibido matizaciones y críticas desde algunas de las voces que más tiempo llevan remando a favor de un desarrollo ético de la IA.
The Distributed Artificial Intelligence Instiute (DAIR), fundado por la investigadora Timnit Gebru —ex miembro del equipo ético de Google, de donde fue despedida por sus denuncias contra la discriminación de la compañía, y una de las autoras del artículo sobre los “loros estocásticos”—, ha respondido criticando que la carta alimenta “el alarmismo y el hype” en torno a estas herramientas y deja de lado los “daños reales” que el despliegue de estos sistemas ya infringe en la actualidad.
Desde diversos sectores atribuyen a estos chats conversacionales una autonomía que, por ahora, no tienen. “La responsabilidad no recae en los artefactos, sino en sus creadores”, argumentan
Para Gebru y el resto de autoras el lenguaje utilizado en la carta “infla las capacidades de los sistemas automatizados y los antropormofiza”, engañando a la gente “haciéndole creer que hay un ser sensible” detrás de estos modelos. Esto “induce a confiar acríticamente en los resultados de sistemas como ChatGPT” y les atribuye una autonomía que, por ahora, no tienen. “La responsabilidad no recae en los artefactos, sino en sus creadores”, argumentan.
“La actual carrera hacia ‘experimentos de IA’ cada vez más potentes no es un camino preestablecido en el que nuestra única elección es la velocidad a la que correr, sino un conjunto de decisiones impulsadas por el afán de lucro. Las acciones y decisiones de las empresas deben estar reguladas para proteger los derechos e intereses de las personas”, concluyen.
Fuente de la información e imagen: https://www.elsaltodiario.com
España: El 36% de los jóvenes universitarios padece algún problema de salud mental
El asesor de UNIR y catedrático en Salud Pública, Miguel Ángel Martínez-González, alerta de la incidencia de trastornos mentales entre los universitarios españoles
El asesor de UNIRMiguel Ángel Martínez-González, experto en Salud Pública y Premio Nacional de Investigación Gregorio Marañón, ha afirmado que en España el 36% de los universitarios cumplen criterios para diagnosticarles al menos una enfermedad mental». Asimismo, el 41% de la población universitaria padecerá en algún trastorno a lo largo de toda su vida, según los últimos estudios.
Estos datos revelados por Martínez-González, quien también es el catedrático de las universidades de Harvard y Navarra, ponen en evidencia una «problemática social que podría considerarse análoga al consumo de tabaco, alcohol o drogas y que ahora están ocurriendo en ámbitos relativos a la sexualidad». En esta línea, Martínez-González apuntó que otro dato preocupante aportado por el Colegio de Médicos de Madrid es que «los requerimientos sexuales a los menores durante la pandemia aumentaron un 507%».
Durante la presentación de su libro ‘Salmones, Hormonas y Pantallas’, en el Colegio Oficial de Médicos de Madrid, Martínez-González expuso una visión panorámica de los problemas emergentes de salud pública que afecta a la población general tras la pandemia, con especial atención a la crisis de salud mental entre los jóvenes, las enfermedades de transmisión sexual, la pornografía, el acoso sexual y los efectos nocivos de la tecnología en la salud, temas que aborda en su libro ‘Salmones, Hormonas y Pantallas’.
«Hay que poner el foco en la crisis de salud mental que está afectando a los jóvenes. En concreto el preocupante aumento de los suicidios, que se ha convertido en la primera causa de muerte», señaló Martínez-González en el encuentro.
Este problema emergente de salud pública se ha visto agravado tras la pandemia, sobre lo que el experto alertó que detrás de ello están «los intereses comerciales a nivel mundial de las plataformas tecnológicas y la omisión de los gobiernos para abordar esta problemática».
Por su parte, Vicente Soriano, Vicedecano de Investigación de la Facultad de Ciencias de Salud y director del proyecto de Bienestar Emocional de UNIR señaló que «los trastornos de salud mental en la población juvenil suponen un revulsivo para la sociedad del bienestar. El impacto de las redes sociales, la desinformación y la ausencia de educación en valores han contribuido a crear un ambiente individualista y con poco compromiso social».
Mal uso de la tecnología y problemas de salud mental
En su libro ‘Salmones, Hormonas y Pantallas’, Martínez-González habla sobre los crecientes problemas de salud mental como consecuencia del mal uso de los dispositivos electrónicos con acceso a internet.
Basado en la evidencia científica, el reconocido catedrático aportó que «la investigación epidemiológica ha demostrado que las pantallas y las redes sociales, especialmente cuando están relacionados con contenido pornográfico o denotan acoso, afectan a la salud mental, particularmente a la de los adolescentes, contribuyendo al aumento de conductas suicida, trastornos de conducta alimentaria y otros problemas de salud mental».
En este sentido, el autor del libro insta a los padres y profesores a ser empáticos y proactivos ante este problema, «se debe hablar sobre estos temas con los jóvenes, así como a atrasar el uso de dispositivos móviles, regular el acceso a internet y establecer normas para su uso».
Entre los trastornos que ha causado el mal uso de los dispositivos electrónicos el asesor de la UNIR destaca la ‘nomofobia’, esa dependencia psicológica a estar conectado a los teléfonos móviles y la ansiedad que esto genera, o el desprecio a las personas reales que le rodean por la imposibilidad de desconectarse del móvil y estar consultándolo continuamente, conocido como ‘phubbing’. «La continua conexión a las pantallas crea, especialmente en jóvenes, un crecimiento exponencial en actitudes gregarias y despersonalizadas», explicó el investigador.
Martínez-González añadió que «la experiencia de dependencia -paradójicamente ligada a mayor sensación de soledad de los jóvenes- ha crecido en paralelo con el abuso de los dispositivos móviles con acceso a internet, las cuales ofrecen una ficticia sensación de relaciones interpersonales». Las pantallas carecen de calidez y certeza en el trato directo, impidiendo disfrutar de la necesaria proximidad, confianza y apertura de las relaciones cara a cara. Esta situación favorece el aislamiento, ansiedad, tristeza y depresión.
Necesidad de un cambio estructural
Ante el número creciente de enfermedades relacionadas con la salud mental entre los jóvenes, Miguel Ángel Martínez-González insta al sector público a tomar medidas sobre el asunto, como se ha hecho en otras ocasiones con problemas de salud pública como el tabaco, la obesidad o para descender el número de accidentes de tráfico.
Sobre este punto, el experto piensa que «es posible modificar las conductas de los jóvenes. Los cambios requieren de tiempo y educación, pero los gobiernos deben tomar medidas estructurales para fomentar estilos de vida sanos, aunque vayan en contra de intereses comerciales de grandes tecnológicas que buscan conductas compulsivas y generan dependencia».
En la misma línea, Vicente Soriano se ha referido a la necesidad de reinventar la educación en valores y las competencias en relaciones sociales y solidaridad con las personas más próximas, desde la familia al ambiente laboral.
Fuente de la información e imagen: https://www.abc.es
España: Los sindicatos vuelven a la calle para exigir un rescate del sistema educativo
Convocan una manifestación este jueves por la tarde para reclamar una bajada de las horas lectivas y de las ratios y mejoras en las condiciones laborales
Los sindicatos de Educación han convocado para este jueves por la tarde una manifestación por un ’Rescate Educativo’ que pasa por una bajada de horas lectivas, reducción de ratios, menos burocracia, en definitiva, la recuperación de las condiciones laborales que tenían los docentes hace 12 años. La protesta tendrá lugar a partir de las seis de la tarde y partirá desde el Palacio de San Esteban, sede del Gobierno regional. Desde ahí pasará por la calle Jerónimo de Roda, la plaza de la Fuensanta, Gran Vía hasta terminar en la plaza Martínez Tornel.
Los sindicatos llaman a que se sumen a la protesta toda la comunidad educativa: «La situación es muy crítica en el sistema público de la Región, que necesita un rescate presupuestario con la máxima urgencia. El personal docente solo ha recibido hasta ahora, por parte de la Consejería de Educación y del Consejo de Gobierno, una negativa tajante a considerar cualquiera de los problemas que hay que abordar sin más espera».
En el manifiesto dejan bien claro que la Consejería «se niega a cualquier conversación sobre reversión de recortes, inversión o personal. No hay espacios de negociación ni escucha reales». En este sentido, exigen que se afronte «con decisión y presupuesto» la crisis de salud mental, grave, profunda y dolorosa, «que está azotando al alumnado, especialmente al más vulnerable». También, instan a que se aborde «con la máxima urgencia el colapso de las infraestructuras al que nos están abocando, reducirse de manera drástica la burocracia, para que el personal docente pueda atender a las familias, y reaccionar ante la necesidad imperiosa de una adaptación climática sostenible de los centros educativos».
https://www.laopiniondemurcia.es/comunidad/2023/04/19/sindicatos-rescate-huelga-educacion-murcia-86231588.html
España: La Noche de los Libros tendrá 570 actividades en casi 100 municipios
La Noche de los Libros tendrá 570 actividades en casi 100 municipios
La Comunidad de Madrid ha presentado esta semana la programación de XVIII edición de La Noche de los Libros, que contará con la participación de 730 autores, 150 instituciones, 100 librerías y 130 bibliotecas, y bajo el lema Los ojos con mucha noche, se desarrollará el viernes 21 de abril en 97 municipios de la región.
Jornada «Mujeres migrantes: conectando agendas y estrategias»
Teniendo en cuenta la importancia de conectar lo local con lo global, desde Alianza por la Solidaridad-ActionAid realizaremos la jornada «Mujeres migrantes: conectando agendas y estrategias». Será el miércoles 19 de abril, desde las 18 horas, en el espacio Ecooo de Madrid (calle de la Escuadra, 11, Lavapiés). ¡Estáis todas/os invitadas/os!
Participarán, en esta jornada, mujeres migrantes y activistas de derechos de Madrid, otros territorios de España y Perú.
Será el cierre del proyecto “Liderazgo de las mujeres migrantes en contexto COVID-19: Garantizando el ejercicio de derechos para no quedar atrás”, cofinanciado por el Ayuntamiento de Madrid.
Conocer las realidades de las mujeres migrantes
Esta jornada facilitará generar redes entre las activistas y nos permitirá conocer las situaciones diversas de las mujeres migrantes para entender mejor sus vivencias, realidades, luchas y el porqué de su trabajo para iniciar procesos de cambio que mejoren su acceso a derechos.
Creemos que el contacto con la ciudadanía es importante para que conozcan, desde las propias voces de sus protagonistas, sus realidades. Así, se motivarán para sumarse a defender los derechos de las mujeres migrantes que tanto apoyo e implicación de la sociedad necesitan.
Programa de la jornada
18:00- 19:45
Dinamización: Julissa Jáuregui, área de Migraciones de Alianza por la Solidaridad-ActionAid
Ponentes:
- Edith Espínola, portavoz de SEDOAC y del Movimiento Regularización Ya. Logros y retos de las trabajadoras de hogar en España y del movimiento Regularización Ya.
- Farhana Mahamud Dich, abogada y presidenta de la Asociación de Mujeres de África en Canarias. Vulneración de derechos de las personas migrantes llegadas a Canarias.
- Rocío Gutiérrez, subdirectora del Movimiento Manuela Ramos, Perú. Migraciones de mujeres venezolanas en contexto de crisis política en el Perú.
- Brenda Bih Chi, afrofeminista, activista antirracista y fundadora de My African Womanhood. Derecho a los cuidados y a la ciudad por parte de las mujeres migrantes “cuidadanía”.
19:45- 20:45
Fuente: https://coordinadoraongd.org/2023/04/jornada-mujeres-migrantes/
La huelga que hizo la educación sexual una asignatura obligatoria en un instituto de Barcelona
-
Una protesta estudiantil hace un lustro en el Maria Espinalt fue el detonante para que el centro creara el departamento de Educación Afectivosexual
Pese a que estamos aún muy lejos de que la educación sexual sea una asignatura más en la totalidad de centros del sistema educativo catalán, es innegable que, gracias al esfuerzo y la tenacidad de muchas personas, se han dado pasos, en algunos casos, zancadas. La brecha la están abriendo centros como el instituto público Maria Espinalt de Barcelona, donde cuentan con el departamento de Educación Afectivosexual igual que cuentan con el de Ciencias.
La mecha se prendió hace cinco cursos, después de una huelga de estudiantes que reclamaban la obligatoriedad de la educación sexual. «Nos pedían que algo tan importante no podía quedar relegado a una optativa, que era una formación que tenía que llegar a la totalidad del alumnado, y tenían razón», recuerda Marta Caño, directora de este instituto del Poblenou. Los protagonistas fueron los y las -ellas fueron el motor- alumnas de tercero de ESO, quienes salieron al patio al grito de «¿por qué tengo que saberme los poemas de Lope de Vega y no sé dónde tengo el clítoris?».
Un grupo de profesores motivados, conscientes de que no les faltaba razón, cogió el guante. Primero crearon un grupo de trabajo y empezaron a formarse a través de la oenegé Sida Studi, «entidad que tiene un material buenísimo«, prosigue la directora del instituto, quien señala que el equipo tenía muchas ganas de dar respuesta a la reivindicación estudiantil, pero eran muy conscientes de que era un tema delicado y tenían que hacerlo bien.
«Con esos materiales fuimos haciendo poco a poco, introduciendo la mirada interseccional y la diversidad; el enfoque que hacemos es desde los cuidados, el cuidado del otro, la importancia del bienestar; enseñar al alumnado a relacionarse de forma saludable con los demás», explica Caño, quien añade que eso es algo que repiten siempre a todas las familias interesadas en el centro en las jornadas de puertas abiertas.
«El alumnado está encantado; se sienten muy agradecidos de disponer de ese espacio y eso llega a las familias«, resume la directora.
Experiencias compartidas
Siguiendo en el apartado de pequeños pasos dados, aún muy localizados, pero que van abriendo camino, está la creación hace ya unos cuantos años -en época precovid– de la red de Escuelas Feministas; que se definen como un grupo de docentes, madres, padres y colectivos que «apuestan por la transformación educativa de la escuela pública desde una mirada feminista«.
Otro paso -en este caso zancada, ya que viene desde la Administración y este sí está llegando a todos los institutos de Catalunya- es la formación sobre la menstruación en tercero de ESO, que empezó el curso pasado como una prueba piloto en un número reducido de centros, pero que este curso llegará a la totalidad de las escuelas e institutos de Catalunya.
Una formación realizada por profesionales en salud sexual y reproductiva de los CAP cercanos a cada centro, y a la que asisten de forma obligatoria -no es un taller optativo- tanto chicos como chicas, para intentar acabar con el tabú y los mitos de la regla y que, en el caso de las personas que menstrúan, va acompañado del reparto de un ‘kit’ menstrual, con productos de higiene íntima reutilizables (una copa menstrual, unas braguitas absorbentes y una compresa reutilizable).
Además, con la presencia de las comadronas en el aula, el programa ‘La meva regla, les meves regles’ [impulsado por la Conselleria de Feminismes], busca también generar un acercamiento y espacios de confianza para abordar temas que van más allá de la regla, como los métodos anticonceptivos.
https://www.elperiodico.com/es/sociedad/20230411/huelga-educacion-sexual-asignatura-obligatoria-instituto-maria-espinalt-barcelona-85608805