La antropomorfización de la inteligencia artificial, ¿una amenaza para la madurez humana?

Por: Alberto Núñez/Emma Marie Stiwitz

«Ya no es humano». A menudo oímos esta frase cuando la gente critica el hecho de que valores sociales como la consideración y la equidad ceden cada vez más el paso a «virtudes» contemporáneas como el afán de rendimiento y la eficiencia. Solo hoy, en la era de la inteligencia artificial (IA), nos damos cuenta realmente de lo que encierran estas palabras.

«Ya no es humano». A menudo oímos esta frase cuando la gente critica el hecho de que valores sociales como la consideración y la equidad ceden cada vez más el paso a «virtudes» contemporáneas como el afán de rendimiento y la eficiencia. Solo hoy, en la era de la inteligencia artificial (IA), nos damos cuenta realmente de lo que encierran estas palabras. Las tecnologías que nos permiten deshacernos de tareas tediosas existen desde la industrialización. Tampoco el uso de la IA es una novedad en sí misma. Sin embargo, en los últimos años se ha extendido cada vez más a ámbitos que antes se consideraban parte del núcleo humano. Aunque muchos debates giran en torno a cuestiones pragmáticas, como la posible pérdida de puestos de trabajo o los efectos medioambientales, hay un tema que a menudo se deja de lado: la cuestión de qué implicaciones tiene la creciente antropomorfización de la IA para la humanidad y su autoimagen como, en palabras de Kant, un ser «maduro».

Para profundizar en esta cuestión filosófica, nos gustaría examinar algunos de los derechos fundamentales que pertenecen a la dignidad humana, como la libertad individual, la igualdad de oportunidades, y, vinculado a ello, el principio de responsabilidad humana, que nos permite adoptar medidas de reprensión y garantizar la protección jurídica entre los seres humanos.

Nuestro ordenamiento jurídico se basa en la idea de la libertad individual, que define al ser humano y su relación con la sociedad. La verdadera autodeterminación requiere la protección de la propia intimidad. El hecho de que sistemas de elaboración de perfiles como Alexa hayan establecido una divulgación socialmente aceptable de datos personales ya es preocupante de por sí. Los efectos que la vigilancia puede tener en el ejercicio de las libertades democráticamente garantizadas queda demostrado, por ejemplo, por la tendencia observable a la autocensura en sociedades como China. Una interferencia potencialmente aún más fuerte con la autonomía humana es la influencia de la información basada en perfiles y conformada sobre la propia formación de opinión. Mucho más sutil que un «nudging» convencional, podría sesgar nuestro pensamiento sin que nos diéramos cuenta. Incluso si adoptáramos un enfoque virtual centrado únicamente en modificaciones benévolas, esto va en contra de nuestra visión liberal del humano. Un reciente estudio alemán de la Universidad de Saarland ha demostrado lo importantes que son las decisiones autónomas para experimentar la autoeficacia y el sentido de la vida.

Nuestro ordenamiento jurídico se basa en la idea de la libertad individual, que define al ser humano y su relación con la sociedad

Además de los aspectos que rodean al responsable de la toma de decisiones, también la externalización de las mismas plantea cuestiones relativas a las consecuencias de los posibles errores y a los afectados.

Para lograr la legitimidad de la sociedad, la toma de decisiones requiere razonamiento. Especialmente las que afectan a los derechos de los demás requieren un alto grado de justificación para garantizar la equidad y la no discriminación. La creciente externalización de los procesos de decisión a la IA, un medio cuya inteligencia cognitiva se basa únicamente en la adquisición de datos, alberga por tanto peligros.

En primer lugar, no es posible crear una IA completamente libre de prejuicios, ya que incluso un sistema de aprendizaje solo puede procesar sobre la base del conocimiento existente. Como Harari describió una vez en una conferencia en 2022, no existe un conocimiento neutro. El nivel educativo de cada época se constituye a partir de un complejo sistema de raíces de experiencias previas. Los grupos especialmente vulnerables pueden ver desatendidos sus derechos a la participación y a la igualdad social, lo que podría verse agravado por la falta de transparencia en los procesos de IA. En una generación más consciente que nunca de su problema de discriminación estructural y frustrada por la lentitud de su superación, la perplejidad de diseñar algoritmos justos podría suponer un especial obstáculo de legitimación. Por ello, los expertos reclaman la creación de normas robustas, que proporcionen seguridad jurídica y comprensibilidad entre todos los sectores de la población.

No obstante, desde un punto de vista más filosófico, cuestionaríamos más fundamentalmente la «externalización» de las decisiones. Aunque la gente se esfuerce por ser objetiva, no debería subestimar la importancia de su sensación subjetiva como corrector decisivo. Esto enlaza con un problema jurídico central: todo nuestro sistema se basa en la asunción de responsabilidad. La culpabilidad se deriva de la acción voluntaria, a pesar de la capacidad de empatía. Este elemento del sujeto constituye la culpabilidad de las malas acciones y la justificación de las medidas de retribución. ¿Y si la IA, cuya «compasión» se limita a una categorización automatizada de los sentimientos, toma una decisión injusta? ¿Podríamos considerar la posibilidad de dotarla de agencia moral, es decir, de «personalidad jurídica»?

¿Y si la IA, cuya ‘compasión’ se limita a una categorización automatizada de los sentimientos, toma una decisión injusta?

Que se trata de consideraciones serias lo demuestra el impulso del Parlamento Europeo para «explorar las implicaciones de todas las posibles soluciones legales (…)» en 2017. Un utilitarista podría alabar la utilidad de unos procedimientos de selección más meritocráticos. Sin embargo, no hay que ignorar lo que el mayor énfasis en el rendimiento hace a nuestros valores sociales. La minimización del contacto interpersonal aumenta el distanciamiento emocional y permite a los actores eludir deliberadamente su propia responsabilidad moral. Según la ética basada en el derecho o deontológica, podría parecer suficiente alcanzar la seguridad jurídica mediante normas predeterminadas, como la responsabilidad estricta del productor, o instrumentos como la autoría vicaria o la «agencia distribuida». En la medida en que los sujetos a regulación puedan predeterminarse, se puede estar de acuerdo con ello. Sin embargo, desde una perspectiva más naturalista, debemos procurar que, al menos en las decisiones que afectan al destino del individuo, la autoridad de control última sea siempre la humana, la emocional.

En conclusión, no se puede pasar por alto que la IA ofrece muchas oportunidades a nuestra sociedad, como el aumento de la eficiencia o la reducción de costes. No obstante, estamos convencidos de que hay áreas fundamentales de la existencia humana que deberían permanecer intactas. La pregunta antes de delegar una determinada acción podría ser: ¿sigo teniendo el control de mis decisiones? ¿Conservo mi «madurez»?


Alberto Núñez es profesor del Departamento de Dirección General y Estrategia de Esade y Emma Marie Stiwitz es estudiante de Grado en Derecho de Esade Law School.

La antropomorfización de la inteligencia artificial, ¿una amenaza para la madurez humana?

Comparte este contenido:

Fragmentos de «La tercera amenaza existencial de la humanidad»

Por: Noam Chomsky.

 

Fragmento del capítulo ‘La tercera amenaza: El vaciamiento de la democracia’, perteneciente al libro Cooperación o extinción.

Si me lo permiten, quisiera comenzar con una breve alusión a un período que tiene inquietantes similitudes con la actualidad, en muchos y lamentables sentidos.

Estoy pensando en hace justo 80 años, casi exactos, el momento en que escribí por primera vez, que recuerde, sobre materia política. Es fácil ponerle fecha; fue justo tras la caída de Barcelona, en febrero de 1939.

En el artículo trataba de lo que parecía la inexorable expansión del fascismo por el mundo. En 1938, la Alemania nazi se había anexionado Austria; meses más tarde puso en sus manos a una Checoslovaquia traicionada en la Conferencia de Múnich. En España caía una ciudad tras otra bajo las fuerzas de Franco. En enero de 1939 cayó Barcelona.

Era el final de la Segunda República española. La notable revolución popular, una de carácter anarquista, que había florecido durante 1936, 1937, 1938… ya había sido aplastada por la fuerza. Parecía que el fascismo fuera a desplegarse sin límite.

No es exactamente lo que está ocurriendo en la actualidad, pero, si se me permite tomar prestada la famosa frase de Mark Twain “la historia no se repite, pero a veces rima”, lo cierto es que hay demasiadas semejanzas como para pasarlas por alto.

Tras la caída de Barcelona hubo una oleada de refugiados españoles. La mayor parte fueron a México, unos 40.000; algunos acabaron en Nueva York y abrieron sedes anarquistas en Union Square, librerías de segunda mano en la Cuarta Avenida, etc.

Me inicié en la cultura política deambulando por aquella zona. De eso hace 80 años. Entonces no lo sabíamos, pero el Gobierno de Estados Unidos también empezaba a pensar que la expansión del fascismo podía llegar a ser imparable. No lo veían con el mismo alarmismo que yo, con mis 10 años de edad.

Hoy sabemos que el Departamento de Estado mantenía sentimientos encontrados con respecto a cuál era la verdadera importancia del movimiento nazi.

Se mantenía, de hecho, un consulado en Berlín; había un cónsul de Estados Unidos en Berlín que enviaba comentarios algo embarullados sobre los nazis, en los que sugería que quizá no fuesen tan malos como se decía. Se trataba del famoso diplomático George Kennan. Lo mantuvieron hasta lo de Pearl Harbor, fecha en la que se lo revocó.

(…)

Resulta que poco después, aunque era imposible haberlo sabido entonces, en 1939, el Departamento de Estado y el Consejo de Relaciones Exteriores comenzaron a hacer planes para lo que sería el mundo posterior al conflicto, sobre qué aspecto debía tener.

Por aquel entonces asumían que en los primeros años el mundo posterior a la guerra estaría dividido entre una zona bajo control alemán, es decir, un mundo controlado por los nazis, la mayor parte de Eurasia, y un mundo controlado por Estados Unidos, que consistiría en el hemisferio occidental; el antiguo Imperio británico, con cuyo control se habría hecho el país americano, y algunas áreas de Extremo Oriente. Y esa sería, en resumen, la forma del mundo posterior al conflicto mundial.

En la actualidad sabemos que esta perspectiva se mantuvo hasta el cambio de rumbo que iniciaron los rusos. En Stalingrado, entre 1942 y 1943, y en la gran batalla con carros de combate de Kursk, un poco después, quedó muy claro que Rusia iba a vencer a los nazis.

Así que se cambiaron los planes; la imagen del mundo posterior al enfrentamiento se trastocó para convertirse en lo que hemos estado viendo desde entonces, en este último período. Pero eso fue hace 80 años.

Hoy no nos enfrentamos al auge de algo como el nazismo, pero sí estamos ante la propagación de lo que alguna vez se ha llamado la Internacional Reaccionaria, de carácter ultranacionalista, que sus partidarios proclaman sin ningún pudor, incluido Steve Bannon, el promotor teatral del movimiento.

Obtuvo una nueva victoria con la elección de Netanyahu en Israel, que refuerza la alianza reaccionaria en ciernes, todo bajo los auspicios de Estados Unidos (…).

En Oriente Próximo, la alianza se compone de los Estados más reaccionarios de la región, a saber, Arabia Saudí, Emiratos Árabes Unidos; Egipto, bajo la dictadura más brutal de su historia, e Israel, que sería el epicentro, todos ellos enfrentados a Irán.

En América Latina encaramos amenazas muy graves, como la elección de Jair Bolsonaro en Brasil, que ha puesto en el poder al más extremo y extravagante de los ultranacionalistas que campan en la actualidad por el continente.

Y Lenín Moreno, presidente de Ecuador, dio un paso recio para ubicarse dentro de la alianza de la extrema derecha al expulsar a Julian Assange de su embajada en Londres. La policía británica lo detuvo al instante, así que tiene por delante un futuro muy escabroso, a menos que haya una reacción popular importante.

México es una de las pocas excepciones en América Latina a esta tendencia. También en Europa Occidental los partidos de derecha, algunos de ellos de naturaleza muy alarmante, están creciendo.

Asimismo, hay un desarrollo a la contra. Yanis Varoufakis, antiguo ministro de Finanzas de Grecia, un individuo de gran relevancia, muy importante, ha hecho un llamamiento, junto con Bernie Sanders, a la formación de una Internacional Progresista que enfrente a la internacional de derechas en formación.

En la esfera estatal, parece que la balanza se decanta abrumadoramente hacia el lado equivocado. Pero los Estados no son meras entidades, y al nivel de las personas de a pie, las cosas son bastante distintas. Eso es lo que puede marcar la diferencia.

Hace falta proteger las democracias efectivas, incidir en ellas, aprovechar las oportunidades que ofrecen, para que la clase de activismo con el que hemos conseguido progresos trascendentales en el pasado nos pueda salvar también en el futuro.

A continuación quisiera poner el acento en un par de observaciones sobre la tremenda dificultad de mantener e instituir la democracia (…) y sobre la importancia que esto tendrá para el futuro.

Pero primero quiero decir unas palabras en torno a los desafíos que tenemos por delante, de los que ya hemos oído hablar bastante y todos conocemos. No hace falta entrar ahora en ellos en detalle, pero describir tales contrariedades como “graves en extremo” podría ser un error.

El término no captura la enormidad de la clase de dificultades que aún tenemos ante nosotros, y cualquier discusión sobre el futuro de la humanidad debe empezar con el reconocimiento de un hecho crítico, el de que la especie humana afronta ahora un dilema que nunca antes se había presentado en su historia, al cual hay que responder sin dilación, a saber, el de cuánto tiempo va a seguir sobreviviendo el ser humano.

En fin, como todos saben, llevamos viviendo 70 años a la sombra de la amenaza nuclear. Cualquiera que repase los archivos disponibles no podrá sino quedar admirado de que aún sigamos aquí.

Cada dos por tres nos ponemos demasiado cerca del desastre terminal, nos libramos por minutos. Parece un milagro que hayamos sobrevivido, pero los milagros no duran para siempre. Hay que poner fin a esto.

La actual revisión de la postura nuclear de la administración Trump acarrea un drástico incremento de la amenaza de conflagración, que tendría como resultado el final de la especie.

(…)

Bien, había tres grandes tratados sobre armas; el Tratado sobre Misiles Antibalísticos o ABM, el Tratado sobre Fuerzas Nucleares de Rango Intermedio o INF y el Tratado de Reducción de Armas Estratégicas o Nuevo Start.

Estados Unidos acabó con el Tratado ABM en 2002. Cualquiera que crea que los misiles antibalísticos son armas defensivas se engaña con respecto a la naturaleza de estos sistemas.

También se ha retirado del Tratado INF, firmado por Gorbachov y Reagan en 1987 y que entonces supuso una reducción abrupta de la amenaza bélica en Europa, la cual estaba destinada a extenderse rápidamente.

Unas multitudinarias manifestaciones civiles crearon la atmósfera para un tratado destinado a significar un antes y un después. (…) Pero, bueno, la administración Trump abandonó el INF, y Rusia también lo hizo poco después.

(…)

Queda el Nuevo Start, que ha sido calificado por nuestro mandamás –quien se ha descrito modestamente a sí mismo como “el mejor presidente de la historia de EE. UU.”– como el peor tratado de la historia, la designación que suele usar para referirse a cualquier cosa que hayan hecho sus predecesores.

En este caso, ha añadido que deberíamos quitárnoslo de encima. Si llega a renovarse en el cargo en las próximas elecciones, habrá mucho en juego, pues, de hecho, es mucho lo que hay en juego en la renovación de ese tratado, que ha sido todo un éxito a la hora de reducir en un grado importantísimo el número de armas nucleares (…).

Entretanto, el calentamiento global sigue su inexorable curso. A lo largo de este milenio, cada año, con una excepción, ha sido más caluroso que el anterior.

Hay artículos científicos recientes, como el firmado por James Hansen y otros, que indican que el ritmo del calentamiento global, que ha estado incrementándose desde alrededor de 1980, puede estar aumentando de manera abrupta, quizá pasando de un crecimiento lineal a uno de tipo exponencial, lo que significa que se duplicaría cada dos décadas.

Nos estamos acercando a las condiciones de hace 125.000 años, cuando el nivel del mar estaba aproximadamente a ocho metros por encima de donde está hoy. (…)

Mientras sucede todo esto, podemos leer con regularidad cómo la prensa celebra eufóricamente los progresos de Estados Unidos en la producción de combustibles fósiles. Ahora ha rebasado a Arabia Saudí, así que estamos a la cabeza de la producción de combustibles fósiles.

Los grandes bancos, como JP Morgan Chase y otros, están inyectando dinero para realizar nuevas inversiones en este tipo de combustibles, incluidos los más dañinos, como las arenas de alquitrán de Canadá.

Y el hecho se presenta con grandes entusiasmo y emoción. Estamos alcanzando el estado de “independencia energética”; podemos controlar el mundo, determinar el uso de combustibles fósiles en todo el globo. Pero apenas se puede encontrar una palabra sobre qué va a implicar todo esto, lo cual es bastante obvio.

(…)

Recientemente hemos visto, en una expresión espectacular, que se puede hacer, que puede alcanzarse una solución.

Un grupo organizado de jóvenes, el Sunrise Movement, llegó al punto de hacer una sentada en las oficinas congresuales, llamando la atención de las nuevas personalidades progresistas, dispuestas a llevar sus proclamas al Congreso.

Bajo una gran presión popular, la congresista Alexandria Ocasio-Cortez, secundada por el senador Ed Markey, puso el New Deal Verde en la agenda.

Desde luego que recibe ataques desde todos los flancos, pero no importa. Hace un par de años era inimaginable que tan solo se discutiera.

Como resultado del activismo de este grupo de jóvenes, ahora está en el centro del programa; va a haber que implementarlo de una manera o de otra, porque es algo esencial para la supervivencia.

Quizá no se hará exactamente del modo propuesto por ellos, pero sí en alguna variante. Se trata de un cambio tremendo logrado por el compromiso de un reducido grupo de jóvenes.

Entretanto, el Reloj del Apocalipsis del Bulletin of Atomic Scientists se ha puesto, desde el pasado mes de enero, a dos minutos de la medianoche.

Es lo más cerca que ha estado del desastre terminal desde 1947. El anuncio de este ajuste mencionaba las dos principales amenazas, ya conocidas, la de la guerra nuclear, que aumenta cada vez más, y la del calentamiento global, que va aún peor.

Y además, por primera vez, se añadía una tercera, el menoscabo de la democracia. Y resultaba muy apropiado, porque la democracia efectiva es la única esperanza para superar tales peligros.

Las grandes instituciones, públicas o privadas, no se harán cargo si no es bajo una presión ciudadana de carácter masivo, lo cual implica que el funcionamiento de las vías democráticas ha de mantenerse vivo y utilizarse del modo ilustrado por el Sunrise Movement, por las manifestaciones masivas de principios de los 80, del modo, en fin, en que continuamos haciéndolo hoy.

Fuente del artículo: https://rebelion.org/fragmentos-de-la-tercera-amenaza-existencial-de-la-humanidad/

Comparte este contenido:

Ratifican amenaza de despido de maestros huelguistas en Perú.

América del Sur/Perú/ 29.08.2017/Autor y Fuente: http://www.prensa-latina.cu
La ministra peruana de Educación, Marilú Martens, ratificó hoy la amenaza de despedir a los maestros en huelga en la mayoría de las regiones peruanas, que no vuelvan al trabajo el lunes próximo.
Señaló que maestros reemplazantes serán contratados con el fin de evitar que los alumnos de las escuelas estatales sigan perdiendo clases por la paralización iniciada individualmente por cada sindicato regional en demanda de mejoras salariales y otras, que el gobierno atendió parcialmente.

‘Si se mantienen en huelga, lamentablemente tenemos que reemplazar a los profesores que no asisten a las clases y seguir el proceso’, dijo la ministra, al invocar a los profesores a ‘mostrar su compromiso y vocación’.

Aseguró también que el sindicato de maestros de la sureña región de Arequipa decidió volver a las clases el lunes próximo y ratificó la oferta de transporte aéreo gratuito de regreso a sus lugares de origen, para miles de maestros provincianos que llegaron a Lima y realizan manifestaciones diarias.

Sin embargo, el líder del movimiento de protesta, Pedro Castillo, reafirmó que el paro prosigue, con la exigencia de que Martens dialogue con los dirigentes regionales directamente y se descarte el despido de los maestros que no aprueben tres evaluaciones, como prevé una norma legal.

La huelga estuvo a punto de una solución el pasado lunes, cuando una negociación indirecta con un grupo de parlamentarios como mediadores avanzó consensos sobre salarios y otros puntos, con excepción del tema de los despidos tras las evaluaciones.

Las huelgas fueron iniciadas el 15 de junio por el sindicato de maestros de la región surandina de Cusco, que también fueron los primeros en aceptar las mejoras ofrecidas por el gobierno y volver al trabajo, cuando se habían sumado paulatinamente la mayoría de las regiones.

El gobierno ha recibido duras críticas que le imputan incapacidad para solucionar la huelga, por lo que el parlamento acordó ayer interpelar a Martens, que deberá responder ante el pleno congresal 40 preguntas, corriendo el riesgo de ser censurada (virtual destitución) si el Congreso no considera

satisfactorias sus respuestas.
Fuente: http://www.prensa-latina.cu/index.php?o=rn&id=110934&SEO=ratifican-amenaza-de-despido-de-maestros-huelguistas-en-peru
Imagen: https://img.europapress.es/fotoweb/fotonoticia_20161218184949_640.jpg
Comparte este contenido:

Profesor utiliza “Death Note” para amenazar a estudiantes en Japón

Japón/17 de Enero de 2017/pysnnoticias

Un profesor de la ciudad de Fukushima, en Japón, se utiliza una forma curiosa para amenazar a sus alumnos: poner sus nombres en un “Death Note”. La referencia al manga de 2003 – con versión en anime que data de 2006 – miedo a los padres y causó un revuelo en el lugar. La información fue divulgada por el diario The Fukushima Minyu Shimbun.

De acuerdo con los informes, el profesor llegó a mostrar una imagen de “Death Note” en su equipo, diciendo que escribiría el nombre de los estudiantes en él. En la producción japonesa, el joven Light Yagami encuentra un cuaderno capaz de matar a aquellos cuyo nombre constasse en las páginas. Inicialmente, el joven resuelve utilizar el elemento para matar a los criminales, con el fin de hacer justicia por cuenta propia. O sea: a pesar de ficción, la actitud del profesor podría ser configurada como una especie de amenaza de muerte.

Después de que el caso de venir a la luz, la escuela en cuestión convocó a una reunión con el profesor, un hombre de unos 30 años. Esto dio lugar a un pedido de disculpas del docente a los padres de los niños que participan, además de una manifestación de la escuela diciendo que el comportamiento del profesional fue “inadecuado”. No hay información de otros tipos de acciones tomadas en el caso.

Fuente: http://pysnnoticias.com/profesor-utiliza-death-note-para-amenazar-a-estudiantes-en-japon/

Comparte este contenido:

EE.UU: Miami-Dade, Broward Schools: ‘Less Than Credible’ Threats Made Against Schools

 América del Norte/EE.UU./30 de septiembre de 2016/www.nbcmiami.com
Resumen: Las escuelas de Miami-Dade y Broward están trabajando con las autoridades policiales después de las amenazas que se han propiciado en otros estados de EE.UU. Las amenazas son similares a una cadena nacional de amenazas contra los distritos escolares, dijeron el pasado jueves las autoridades. Ambos condados Miami-Dade y Broward dijeron que están vigilando a cualquier actividad posible, asegurándole a los estudiantes, profesores y padres que no hay nada de qué preocuparse en este momento. En declaraciones por separado, los representantes de ambos distritos escolares reconocieron haber recibido amenazas, junto con varios otros condados y universidades del estado, que los que están trabajando en la investigación. La oficina del FBI del sur de la Florida también está trabajando con ambos distritos para investigar las reclamaciones y mantenerlos a salvo de cualquier posible amenaza.

Noticia original:

Miami-Dade and Broward schools are working with authorities after what they called «less than credible» threats were made against schools in South Florida.

The threats are similar to a nationwide string of threats against school districts, officials said Thursday. Both Miami-Dade and Broward counties said they’re keeping watch on any possible activity – but assuring students, teachers and parents that there is nothing to worry about at the moment.

In separate statements, representatives from both school districts acknowledged receiving what they called «less than credible» threats – along with several other counties and universities in the state, who they are working with in investigating the claims.

«In an abundance of caution, Miami-Dade Schools Police along with other local law enforcement municipalities are being extra vigilant in and around schools,» Miami-Dade Schools said in a statement.

South Florida’s FBI office is also working with both districts to investigate any claims and keep them safe from any possible threats.

«At all times the safety of our students and employees is our highest priority,» Broward County Schools said in a statement.

Tomado de: http://www.nbcmiami.com/news/local/Miami-Dade-Broward-Address-Less-Than-Credible-Threats-Made-Against-Schools-While-Remaining-Cautious-394448081.html

Comparte este contenido: