Proposición no de Ley para regular la inteligencia artificial para proteger a los más vulnerables.

Gracias, presidente. Señorías, el avance de la inteligencia artificial es una realidad, una realidad que el Grupo Parlamentario Socialista cree necesaria regular para impulsar una IA humanista al servicio de las personas y que proteja a los más vulnerables. Una realidad que se inició en la década de los años sesenta aproximadamente, cuando empezaron a surgir los primeros lenguajes de programación específicos, como Lisp y más adelante Prolog, para crear lo que se denominaron sistemas expertos, que comenzaron a utilizarse como apoyo a la toma de decisiones, principalmente en entornos de medicina. Señorías, hemos presenciado en los últimos años la proliferación masiva de datos provenientes de la huella digital que dejamos con cada transacción que realizamos, y que ha dado lugar al big data; y esto, unido a la mejora en las capacidades de procesamiento, ha constituido la precuela del nacimiento de una poderosa herramienta que lo ha cambiado todo: la inteligencia artificial generativa, que es aquella capaz de elaborar y componer textos, música o contenidos audiovisuales bajo la petición del usuario y utilizando el big data disponible. La tecnología avanza a un ritmo vertiginoso y la legislación siempre va a remolque, pero en el caso de la inteligencia artificial, los avances producidos en los dos últimos años nos han arrollado como un tren de mercancías. Cuando se redactó el primer borrador del Reglamento de Inteligencia Artificial del Parlamento Europeo, se pensaba que la IA generativa tardaría unos cinco años en salir al mercado, y a los dos meses de publicar el reglamento, señorías, ya habían aparecido las primeras herramientas masivas de esta nueva tecnología, como el famoso ChatGPT, que es de 2022. La inteligencia artificial ofrece muchos retos y oportunidades, pero también gravísimas amenazas. No es extraño que suscite miedo y desconfianza en buena parte de la sociedad. Quienes se enfrentan al mayor peligro son las personas más vulnerables, que pueden verse discriminadas por muchos factores, como por ejemplo por el sesgo de los algoritmos, y todo ello sumado al riesgo del crecimiento de la brecha digital y a la desventaja competitiva en el ámbito laboral, que sufrirán quienes no manejen las herramientas IA. Muchos colectivos, como el de los autores y artistas, nos transmiten sus temores al respecto, debido a que la IA se está apropiando de sus creaciones, que deberían estar protegidas por la Ley de Propiedad Intelectual. Señorías, debemos proteger y priorizar la creatividad humana. Si no, se perderá una parte muy importante de nuestra cultura.

La realidad es que todos y todas somos vulnerables y estamos expuestos a los riesgos de la inteligencia artificial. Las ultrafalsificaciones o deepfakes están a la orden del día. Sin ir más lejos, este pasado viernes pudimos ver varios de estos deepfakes en los que se vertían falsedades sobre el Partido Socialista difundidos por diputados de este Congreso en mitad de una campaña electoral. (Aplausos). Por ejemplo, el señor Tellado —‌que no está presente ahora— difundió uno sobre el expresidente José Luis Rodríguez Zapatero y el señor González Pons difundió otro sobre el aeropuerto de Torrejón. Al menos hay que agradecer que ambos tuvieran la decencia de borrarlo tiempo después, imagino que cuando se percataron de que estaban difundiendo contenido falso. Insisto, las deepfakes nos convierten a todos y a todas en vulnerables ante la IA. Por eso creemos que ha llegado el momento de pararse y reflexionar.

¿Recuerdan a la oveja Dolly, aquella nacida en 1996 a partir de la clonación de una célula adulta? Aquel hecho conmocionó a la sociedad y nos hizo parar en seco a reflexionar qué futuro queríamos para la humanidad. Esto motivó que se regulase la clonación, prohibiendo ciertas prácticas y admitiendo otras. Pues una encrucijada similar es la que se presenta ahora, y por ello es necesaria una reflexión profunda de toda la sociedad. Señorías, no exagero, el futuro de la humanidad va a depender de las decisiones que tomemos ahora. Isaac Asimov ya nos proporcionó un ejemplo sobre esta reflexión con sus tres leyes de la robótica, que aparecen por primera vez en un relato suyo del año 1942. El reglamento europeo, además de ser pionero en el mundo, nos ofrece un marco legislativo que es un buen punto de partida, pero no es suficiente, aún quedan muchos aspectos por reflexionar y decidir, y en dichos asuntos cada Estado tendrá que legislar conforme a sus convicciones éticas. Sabemos que quienes tienen posiciones liberales van a replicar diciendo que no se le pueden poner puertas al campo en un mundo digital globalizado y que restringir un mercado tan floreciente es algo negativo. Pues bien, nosotros creemos que se pueden exigir ciertos requisitos a los proveedores de IA y que, a pesar de hallarnos en un ámbito global digitalizado, el Gobierno de España puede y debe liderar este asunto, igual que ha liderado muchos otros en Europa, para poder debatir con autonomía frente a Asia y Estados Unidos, de manera que en este mercado tan atractivo y tan jugoso quienes quieran participar tendrán que pasar por el aro ético legislativo para poder obtener los enormes beneficios que esta tecnología nos ofrece.

Por todos estos motivos, en el Partido Socialista decimos sí a la inteligencia artificial, pero con carácter humanista, al servicio de las personas y con especial protección a aquellas más vulnerables. (Aplausos). Para ello será necesaria una actuación en tres ejes fundamentales: el primer eje es la información y la formación temprana; en segundo lugar, necesitamos una concienciación colectiva, una prevención pública y un uso adecuado del acceso de los menores; en definitiva, lo que necesitamos es una regulación de la inteligencia artificial para establecer un marco jurídico sólido y fiable que proteja a los más vulnerables. En este sentido, será necesario seguir avanzando en el desarrollo de los mecanismos de la Agencia Española de Supervisión de la Inteligencia Artificial, la AESIA, como autoridad para garantizar los derechos democráticos, y dotarla de los recursos necesarios. Estas acciones estarán coordinadas con otras iniciativas legislativas de este grupo, como por ejemplo, como ha comentado mi compañera, el anteproyecto de ley para la protección de los menores en los entornos digitales o la legislación específica que desarrollemos para la regulación de la ciberseguridad, porque a este Gobierno le importa y mucho la protección de la ciudadanía y la defensa de los derechos fundamentales, también en Internet.

Muchas gracias por su atención, señorías. Espero que podamos entendernos y contar con su apoyo para esta iniciativa. (Aplausos).

Gràcies, president. Fa molts anys que parlem d’intel·ligència artificial. De fet, ja en els anys noranta, jo recordo com es parlava d’aquella partida d’escacs entre Garri Kaspàrov i l’ordinador Deep Blue. Recordeu que va perdre dos de sis partides. Després, Kaspàrov es va enfrontar a un ordinador millorat i va guanyar quatre de sis partides. Tot això ha anat evolucionant tant que el grup d’experts en intel·ligència artificial, entre els quals hi ha OpenAI, els del ChatGPT, i Google DeepMind, han advertit que la intel·ligència artificial podria portarnos a l’extinció de la humanitat. I aquest és un risc que està, segons ells, al nivell de prioritats o de preocupació d’evitar una guerra nuclear o noves pandèmies. Per tant, la intel·ligència artificial ja no és només una branca de la informàtica que desenvolupa programes capaços d’emular processos propis de la intel·ligència humana. La intel·ligència artificial és un problema de proporcions gegantines, també des del punt de vista mediambiental. Els experts en energia ja ens estan advertint i avisant de l’altíssim consum que suposarà proveir d’electricitat, alimentar, els grans monstres que han de moure les dades en els servidors.

I sí, és cert, la intel·ligència artificial també té molts aspectes positius, com els que tenen a veure amb la investigació mèdica, però avui ens centrem en el perill d’un mal ús de les dades que s’aconsegueixen a través de la intel·ligència artificial. Ens centrem en els riscos de la ruptura de la privacitat i la intimitat dels usuaris, que no només afecta l’usuari, sinó també el seu entorn, especialment si parlem de violència digital i, sobretot, quan la diana són les dones o les persones més vulnerables.

Entre el 2022 i el 2023 la quantitat de pornografia deepfake es va multiplicar gairebé per cinc. La ciberviolència és una continuació de la violència masclista que es produeix contra les dones i les persones vulnerables en el món físic. I això és lògic, perquè els continguts estan programats per humans, i perquè els programes d’intel·ligència artificial s’entrenen amb continguts creats per humans. És inevitable que siguin, per tant, un reflex de la vida analògica. Això vol dir que hi haurà biaixos que s’hauran de corregir si volem construir eines veritablement igualitàries, humanistes i amb valors. Per tant, sí, estem d’acord que és vital tenir legislació i normatives clares fins on es pugui, però justament volem posar en relleu que la Unió Europea ja ha fet un esforç en aquest sentit. Ha impulsat un paquet de mesures que volen establir una normativa clara dirigida al món digital, i aquí tenim com a exemple el Reglament d’Intel·ligència Artificial i el Reglament de Serveis Digitals, i han estat fruit, com dèiem, de l’esforç col·lectiu, perquè si una cosa tenim tots clara és que si no anem junts en aquest tema, en perdrem el control. Per això, la Unió Europea ja ha regulat com s’ha de desenvolupar el Reglament de Serveis Digitals per tal de posar límits a diferents operadors del sector, i també ha desenvolupat el Reglament d’Intel·ligència Artificial amb la intenció que el marc jurídic estableixi un marc ètic per l’ús i el foment d’aquestes eines.

Vostès proposen que l’Agència Espanyola de Supervisió de la Intel·ligència Artificial sigui la competent en aquesta matèria, però nosaltres no veiem la conveniència de l’existència d’aquesta agència tal com l’han concebut. I per què? Perquè el Reglament de la Intel·ligència Artificial i la DCA hauran de conviure, i és molt millor a nivell regulatori que ho porti una mateixa agència. I, si a hores d’ara, és la CNMC la que n’és competent, com a mínim de l’aplicació de la DCA, tindria més sentit que incorporessin tot el que té a veure amb el control dels algoritmes creats per intel·ligència artificial. A més, des de Catalunya, i com hem fet en altres ocasions respecte de la llei general de la comunicació audiovisual, per exemple, de la competència o de les normatives de protecció de dades, demanem que hi hagi un treball col·laboratiu entre organismes estatals i les diferents comunitats autònomes. Tenim dret a controlar i corregir els riscos que afecten els nostres nens, nenes, adolescents o qualsevol persona vulnerable. Aquí cal precisar, i acabo ja, que l’article 70 del Reglament d’Intel·ligència Artificial no determina que sigui requisit crear una nova agència. El que diu és que cada estat membre haurà de designar, com a mínim, una autoritat per supervisar l’aplicació del reglament i que aquesta agència haurà de ser independent. Per tant, per què no apostem —‌és la nostra proposta— per un model regulatori que garanteixi l’eficàcia de la norma? Pensem que, d’aquesta manera, serem molt més eficients.

Gràcies.

Gracias, presidente. Hace años que hablamos de la inteligencia artificial. De hecho, ya en los noventa recuerdo cómo se hablaba de esa partida de escacs entre Garry Kasparov y el ordenador Deep Blue. Recordarán que perdió dos de seis partidas. Después, Kasparov se enfrentó a otro ordenador mejorado y ganó cuatro de seis partidas. Todo eso ha evolucionado tanto que el grupo de expertos en inteligencia artificial, entre los que se encuentran OpenAI y Google DeepMind, ha advertido que la inteligencia artificial podría llevarnos a la extinción de la humanidad. Es un riesgo que según ellos está al mismo nivel de prioridad o preocupación que evitar nuevas pandemias o una guerra nuclear. Por tanto, la inteligencia artificial ya no es solo una rama de la informática que desarrolla procesos propios de la inteligencia humana, no. La inteligencia artificial es un problema de proporciones gigantescas también desde el punto de vista del medio ambiente. Los expertos en energía nos advierten del altísimo consumo energético que supone proveer la electricidad necesaria para alimentar a los grandes monstruos que mueven los datos de los servidores. Es cierto que la inteligencia artificial también conlleva ventajas, como, por ejemplo, lo que tiene que ver con la investigación médica, pero hoy nos centraremos en el peligro de un mal uso de los datos que se obtienen mediante la inteligencia artificial. Nos centraremos en los riesgos de vulnerar la privacidad y la intimidad de los usuarios, algo que afecta no solo a los usuarios, sino también a su entorno, especialmente si hablamos de violencia digital cuando la diana son las mujeres o las personas más vulnerables.

Entre 2022 y 2023, la cantidad de pornografía deepfake se multiplicó casi por cinco. La ciberviolencia es una continuidad de la violencia machista que se produce contra las mujeres y las personas vulnerables en el mundo físico, y eso es lógico, porque los contenidos están programados por humanos y porque los programas de inteligencia artificial se entrenan con contenido creado por humanos. Es inevitable, entonces, que estos contenidos sean un reflejo de la vida analógica. Habrá sesgos que deberán corregirse si queremos unos entornos digitales realmente igualitarios, feministas y con valores. Es inevitable tener una legislación clara hasta donde se pueda, pero queremos poner de relieve que la Unión Europea ya ha hecho esfuerzos en ese sentido. Ha impulsado un paquete de medidas que quieren establecer una normativa clara del entorno digital, por ejemplo, el Reglamento de Inteligencia Artificial y el Reglamento de Servicios Digitales. Estos reglamentos son fruto del trabajo colectivo, porque está claro que debemos ir juntos para que no se escapen de nuestro control. Por eso, la Unión Europea ya ha regulado cómo debe establecerse el Reglamento de Servicios Digitales para establecer límites a proveedores del sector y también de inteligencia artificial, cuya intención es que el marco jurídico establezca un marco ético para el uso de estas herramientas. (La señora presidenta ocupa la Presidencia).

Ustedes proponen que la Agencia Española de Supervisión de la Inteligencia Artificial tenga la competencia en esta materia, pero nosotros no vemos lo conveniente de la existencia de esta agencia tal y como la han concebido. ¿Por qué? Porque el Reglamento de Inteligencia Artificial y el de los Servicios Digitales deberán convivir, y es mucho mejor a nivel regulatorio tener una única agencia. Si ahora es la CNMC la que tiene la competencia por lo menos de la aplicación del Reglamento de Servicios Digitales, tendría sentido que incorporáramos también ahí todo lo que tenga que ver con los algoritmos de inteligencia artificial. Además, en Cataluña, como hemos hecho en otras materias como la comunicación o las normativas de protección de datos, pedimos que sea un trabajo colaborativo entre los organismos estatales y las distintas comunidades autónomas. Tenemos derecho a controlar y corregir los riesgos que afectan a nuestros niños, niñas, adolescentes o a cualquier persona vulnerable. Aquí debo precisar —‌y ya termino— que el artículo 70 del Reglamento de Inteligencia Artificial no determina que sea un requisito crear una nueva agencia. Lo que dice es que cada Estado miembro debe designar por los menos una autoridad que se encargue de la supervisión de la aplicación del reglamento y que debe ser una agencia independiente. Por tanto, nosotros proponemos un modelo regulatorio que garantice la eficacia de la norma. Así seremos mucho más eficientes.

Muchas gracias.

Presidenta, señorías, el asunto de la inteligencia artificial es capital para cualquier ciudadano y para todo el mundo, es obvio. Estamos ante una revolución tecnológica que, como han señalado los expertos, puede superar lo que significó la invención de la escritura o la invención de la imprenta, por tanto, estamos ante algo que va a transformar lo que significa ser seres civilizados. El reto es enorme.

Entendemos que la PNL del Grupo Parlamentario Socialista quiere prevenir nuevas exclusiones, nuevas desigualdades y en este sentido es oportuna, aunque hay que decir que parte de lo que plantea está ya incluido en el reglamento aprobado recientemente sobre la materia por el Parlamento Europeo.

Tota tecnologia té dues cares, senyories, això ho sabem. Hi ha una promesa de perfecció i hi ha també abismes de destrucció, des de l’invent més antic fins ara. En el cas de la intel·ligència artificial, és innegable que entrem en un territori desconegut que treu el pitjor i el millor de cadascú. La indistinció entre allò que és veritable i allò que és fals només és la punta de l’iceberg d’una realitat nova que ens porta a les últimes preguntes sobre la condició humana i sobre la llibertat, per exemple, la igualtat i la responsabilitat. La intel·ligència artificial ens obliga a repensar moltes coordenades, i especialment l’impacte de la intel·ligència artificial sobre l’espai públic, més enllà de l›impacte obvi sobre la cultura, l›educació, l›empresa, l’exèrcit, etcètera. La complexitat és tan alta que el legislador sempre anirà per darrere. Hom té la sensació que en el tema de la intel·ligència artificial els legisladors som com els descobridors d’Àfrica, anem dibuixant el mapa a mesura que anem avançant, però no tenim el dibuix complet.

Marc Coeckelbergh, un dels màxims especialistes europeus en aquesta matèria, ha escrit que la intel·ligència artificial no és simplement una eina per fer política, sinó que canvia la mateixa política, tot el concepte de la política. I això ens interessa especialment en aquesta Cambra, perquè el centre de gravetat és què és l’espai públic i què hi fem en aquest espai públic. L’horitzó com a legisladors no pot ser altre que protegir els drets i els valors democràtics, no pas arraconar-los. Per tant, novament tenim aquesta missió. La implantació de la intel·ligència artificial, senyories, ens obliga a repensar els drets i els deures per evitar, com s’ha dit aquí ja, noves vulnerabilitats i fractures, fractures que no fan res més que incrementar les antigues fractures de caràcter econòmic o cultural. També, la intel·ligència artificial apunta directament al concepte de minoria. Noves minories sorgiran d’aquest espai, i noves realitats, perquè la intel·ligència artificial, ja ho hem vist, té la capacitat de redefinir també la condició grupal i tot allò que interessa a l’ésser com a ésser relacional.

En aquest sentit, i ho celebrem, el Grup Socialista ha acceptat una esmena del Grup Republicà que apunta sobre la importància d’incloure, en aquesta missió, tot el que representa la carpeta de drets lingüístics i culturals, com correspon als nostres temps. Hem de ser vigilants perquè per la porta del darrere de la intel·ligència artificial no es generin nous greuges, noves discriminacions, moltes vegades més per inèrcia o per oblit que no pas per una acció proactiva, que també. La idea del pacte social per la governança responsable de la intel·ligència artificial és bona, és indispensable. De fet, per què no hauria de ser-ho? El pacte social és necessari davant de tots els reptes importants, malgrat saber que en aquesta cambra, en aquest moment, quan estem pensant aquesta realitat, la gent de la ciència, de la tècnica i de la indústria, va molt per davant de nosaltres, i, per tant, molts supòsits del que podrà fer la intel·ligència artificial en el futur ni tan sols els podem ara imaginar. Cap govern ni cap cambra legislativa pot pensar tot el que pot transformar una eina que, de fet, si som sincers, el que fa és reconfigurar la nostra ment humana i portar-la cap a un nou llindar.

En definitiva, senyories, entenem que, malgrat que pot semblar un esforç inútil, hem de fer un treball per evitar el que en diem la «selva», el que en diem el «campi qui pugui», i perquè l’emergència d’una eina tan apassionant i tan necessària com la intel·ligència artificial no acabi fent els febles més febles i aquells més desposseïts, més desposseïts, tant si parlem de grups de risc especial com dels menors o d›altres ciutadans.

Moltes gràcies.

Toda tecnología tiene dos caras, lo sabemos. Hay una promesa de perfección y también abismos de destrucción, desde el invento más antiguo hasta la actualidad. En el caso de la inteligencia artificial, es innegable que estamos entrando en un terreno desconocido que saca lo peor y lo mejor de cada uno de nosotros. No distinguir entre lo que es cierto y lo que es falso es solo la punta del iceberg de una nueva realidad que nos lleva a plantearnos las últimas preguntas sobre la condición humana y sobre la libertad, la igualdad y la responsabilidad. La inteligencia artificial nos obliga a replantearnos mucho, especialmente el impacto de la inteligencia artificial sobre el espacio público, más allá del impacto obvio sobre la cultura, la educación, las empresas, el ejército, etcétera. La complejidad es tanta que el legislador está condenado a ir siempre por detrás. Tenemos la sensación de que con la inteligencia artificial los legisladores están descubriendo África. Estamos dibujando el mapa a medida que avanzamos, pero no tenemos todavía el dibujo completo.

Mark Coeckelbergh, uno de los máximos especialistas europeos en esta materia, ha escrito que la inteligencia artificial no es simplemente una herramienta para hacer política, sino que es algo que ha cambiado la política en sí misma, el concepto de política, y esto nos interesa especialmente en esta sala, porque el centro de gravedad es el espacio público. Y, ¿qué haremos en ese espacio público? El horizonte, como legisladores, debe ser proteger los derechos y los valores democráticos y no dejarlos de lado. Por tanto, tenemos esta misión otra vez. Implantar la inteligencia artificial, señorías, nos obliga a repensar los derechos y los deberes para evitar, como se ha dicho, nuevas vulnerabilidades y posibles fracturas que solo hacen que incrementar otras fracturas antiguas económicas y culturales. La inteligencia artificial también apunta directamente al concepto de minoría. Nuevas minorías surgirán de este espacio y también surgirán nuevas realidades, porque la inteligencia artificial, como hemos visto, tiene la capacidad de redefinir la condición de grupo y todo aquello que interesa al ser humano como ser relacional.

En ese sentido, celebramos que el Grupo Socialista haya aceptado una enmienda del Grupo Republicano sobre la importancia de incluir en esta misión todo lo que representa la carpeta de derechos lingüísticos y culturales, como corresponde a los tiempos actuales. Debemos vigilar para que por la puerta de atrás de la inteligencia artificial no se generen nuevos agravios, nuevas discriminaciones, muchas veces más por inercia, por descuido, que no por proactividad, que también. La idea del pacto social para la gobernanza responsable de la inteligencia artificial es buena e indispensable. ¿Por qué no debería serlo? El pacto social es necesario ante todos los retos importantes, a pesar de saber que, en esta Cámara, cuando estamos planteándonos esta realidad, las personas que se dedican a la ciencia, a la técnica y a la industria nos sacan mucha ventaja, van mucho más alentados. Por lo tanto, los supuestos de lo que podrá hacer la inteligencia artificial ni siquiera podemos imaginarlos. Ningún gobierno ni ninguna cámara legislativa es capaz de pensar en todo lo que va a poder transformar una herramienta que, si somos sinceros, lo que hace es reconfigurar nuestra mente humana y llevarla a un nuevo umbral, a un nuevo límite.

En definitiva, entendemos que, a pesar de que parezca un esfuerzo inútil, debemos hacer un trabajo para evitar lo que llamaremos la selva, para que la emergencia de una herramienta tan apasionante como la inteligencia artificial no acabe haciendo que los débiles sean todavía más débiles y que los que tienen menos todavía tengan menos, tanto cuando hablamos de grupos de riesgo especial como cuando hablamos de menores y otros ciudadanos.

Muchas gracias.

Arratsalde on. Buenas tardes a todas y a todos. El Grupo Socialista nos trae hoy una proposición no de ley sobre el ampuloso título de la inteligencia artificial. Hace una semana oía la radio, y no supe quién era el que lo decía, pero me gustó la cita cuando le preguntaron: ¿A usted le preocupa el avance de la inteligencia artificial? Y él respondió: Me preocupa más el retroceso de la inteligencia natural. No supe quién era, pero me pareció una respuesta muy inteligente sin ser artificial, siendo natural. En cualquier caso, hoy presenta el Grupo Parlamentario Socialista una proposición no de ley en torno a la inteligencia artificial. Es un tema amplio, un tema debatido, un tema debatible sin duda alguna, que tiene mucha hondura. Está bien hablar de ello, pero la proposición no de ley, la verdad, no dice mucho y no propone ninguna novedad o propuesta concreta que no se haya decidido ya que va a ser así. Es decir, es una propuesta totalmente reiterativa, predecible. Ya se ha decidido que se va a hacer lo que se dice en esa proposición y nos trae la proposición diciendo que se haga eso. En cualquier caso, está bien hablar y que en un foro como este tengamos este debate. Seguramente esto nos supera, porque en otros ámbitos ya se está legislando en torno a ello. Por ejemplo, en la Unión Europea tenemos por lo menos tenemos una directiva y un reglamento en torno a este tema. Hacen mucho hincapié ustedes, señores socialistas, en el tema de la agencia española, les gusta mucho. Ya sabemos lo que dice el reglamento, pero esto se puede hacer de otras maneras también, porque hay, por ejemplo, comunidades autónomas con competencias en estas materias que pueden trabajar conjuntamente. No lo dejen todo en las santas agencias españolas que tanto les gustan. Sin duda alguna, toda sociedad moderna dispone y necesita tecnología basada en la inteligencia artificial. Negarse a ello es negarse a avanzar, como ya se ha dicho, y tampoco es que haya otra posibilidad, es imposible bajarse de ese autobús. Todos vemos un riesgo posible, sin duda alguna. Por eso a veces es mejor ponerse la venda antes de la herida, para que luego no sea excesivamente tarde, y creo que en esta materia se está trabajando ya, porque los riesgos ya no son un riesgo que puede venir, sino que ya estamos viendo de alguna manera efectos nocivos debido al uso o mal uso de la inteligencia artificial. La inteligencia artificial de por sí es una herramienta que el ser humano ha creado, consecuencia de la curiosidad, de la innovación, de la investigación, de la ciencia y del estudio durante siglos y siglos, desde que la humanidad empezó a ser sapiens. Por lo tanto, esto es la consecuencia de mucho trabajo, pero no deja de ser una herramienta, y —s‌ eguramente es obvio lo que voy a decir— una herramienta se puede usar para hacer el bien o para hacer el mal, como la primera piedra que unos usaron para romper las conchas de las almejas que iban a comer o para echársela al de enfrente. Por tanto, la culpa no está en la piedra. La piedra o la inteligencia artificial son herramientas. Es el uso el problema, lo que debemos detectar. ¿El riesgo? Pues sí, un uso contrario. Para eso están la directiva y un reglamento que define cuáles son los efectos nocivos y cuáles deben ser los controles que se han de llevar a cabo para que esta herramienta tenga un código ético. No solamente la Unión Europea, también la UNESCO tiene un informe muy interesante de ética e inteligencia artificial que recomiendo que lean. Por lo tanto, el PSOE plantea lo que la directiva ya dice de alguna manera.

El miedo es libre, y el ser humano siempre ha tenido miedo a la innovación, a las herramientas que él mismo ha creado. Este es un caso de esos. Pero una cosa es el miedo a que algunos hagan un mal uso y eso tenga unos efectos nocivos, unos efectos que no queremos ninguno, unos efectos que verdaderamente no respeten los derechos humanos, que vayan en contra de las minorías, perjudiquen a las personas y discriminen a las sociedades —‌todo eso es lo que se dice en el texto, y estoy de acuerdo, está muy bien y es así—, y otra cosa es tener miedo a lo que en la ciencia ficción se ha llamado miedo a que la inteligencia artificial se haga dueña de sí misma, porque entonces sí que ya no la podríamos controlar. Es el famoso sueño del robot.

Una de las citas más destacadas de la cinematografía de los años setenta es aquella que dice: «Abre la compuerta, HAL». Y: «Lo siento, Dave, me temo que no puedo hacer eso. Esta misión es demasiado importante para mí y no puedo permitirle ponerla en peligro». Es la famosa frase de 2001: Una odisea en el espacio, cuando el robot se rebela y no obedece a Dave. Es el inicio del miedo. Pero, al final, es cuando dice: «Dave, tengo miedo». No me gustan mucho las distopías; en cualquier caso, esperemos que la inteligencia artificial no sirva para que al final pueda desobedecer lo que Dave le dijo a HAL.

Muchas gracias.

Buenas tardes. Gracias, presidenta. Lo primero que quiero decir es que me alegro mucho de que hoy en este Pleno se hayan debatido dos proposiciones no de ley sobre digitalización, sobre inteligencia artificial. Es un debate que cuesta mucho en el seno de este Parlamento y que es muy necesario para la sociedad. (Aplausos). Hace poco fueron las pruebas de la EBAU, las de la Selectividad. Estoy segura de que todas nosotras nos acordamos del mito de la caverna y se acordarán también muchos jóvenes que se han presentado estos días. El mito de Platón, en su obra La República, habla de una alegoría sobre el conocimiento. En ella muestra al ser humano encadenado desde que nace dentro de una caverna donde lo único que ve son sombras reflejadas en la pared pensando que esa es la realidad. Señorías, esa es la caverna en la que vivimos hoy en día, la caverna de las redes sociales. En los últimos años he tenido la suerte de trabajar como ingeniera de datos y lo que más me ha costado explicar ha sido qué es realmente un algoritmo de inteligencia artificial o qué es un algoritmo de datos. Creo que en los últimos años se habla mucho de la inteligencia artificial, todo el mundo es experto, se hacen muchísimas conferencias, pero no consigo que la gente baje a ese término para que lo comprenda. Realmente, un algoritmo de inteligencia artificial es lo más parecido a un bebé; de hecho, es una replicación de una red neuronal, de una red del ser humano. Cuando un bebé nace empieza a escuchar las voces de su entorno, aprende de sus errores, aprende de los sesgos de la sociedad que le rodea, aprende ideología y aprende sesgos, y esto lo hace de la misma forma un algoritmo de inteligencia artificial. Pero ahora yo os planteo que os imaginéis un bebé criado en un entorno donde solo escucha comentarios machistas, xenófobos o racistas de VOX; o un bebé que solo escucha «yo gané las elecciones» una y otra vez; o, incluso, un bebé criado en un entorno de bulos y de desinformación, que se acaba de tomar varias copas este domingo para empezar la fiesta. Al final, un algoritmo es una pequeña representación de la ambición humana por conocernos a nosotros mismos, sin reflexionar, simplemente por replicar nuestro propio comportamiento. Ni la mentira ni la inteligencia artificial ni la desinformación son algo nuevo. Hoy vivimos en un régimen de información, prisioneros en una caverna digital de millones de datos y de su procesamiento, bajo el poder de unas pocas empresas que no solamente determinan los procesos sociales, sino también los procesos económicos y políticos; un capitalismo de información que no solo quiere dominar nuestros cuerpos; un capitalismo de información que nos quiere obedientes y dóciles y que nos hace, además, creer que somos libres; un sistema de vigilancia continua de nuestras vidas; un régimen donde nuestro móvil, nuestro smartphone, transforma nuestras propias casas en prisiones digitales y donde un like en redes sociales apacigua cualquier revolución social. Los dueños de estos algoritmos son los magnates que arropan públicamente a Milei y que arropan a la señora Meloni y son los que financian la tecnología militar del genocidio en Palestina (aplausos), porque lo que tienen en común estos magnates, el fascismo y la extrema derecha es que, en nombre de la libertad individual, justifican y delegan su propia responsabilidad. La oligarquía tecnológica concentra cada vez más poder, capital económico y, sobre todo, puestos de trabajo que una vez más vuelven al servicio de los hombres, construyendo así una industria tecnológica que consume una barbaridad de energía y agua en detrimento de nuestro planeta. (Aplausos).

En SUMAR, lejos de un posicionamiento tecnopesimista, somos bastante tecnooptimistas; de hecho, pensamos que la tecnología, la inteligencia artificial y el big data son las herramientas democratizadoras y emancipadoras más importantes de este siglo y de nuestra sociedad. (Aplausos). Por eso apoyaremos esta iniciativa del Partido Socialista, pero queremos ir a más, porque con regular sabemos que no es suficiente. Necesitamos alternativas públicas, porque del mismo modo que se regula un medicamento se debe regular la inteligencia artificial, porque nosotras queremos tiempo para los trabajadores que libra la inteligencia artificial, no para las empresas. Queremos la inteligencia artificial para reducir las listas de espera en la sanidad pública, no para que las aseguradoras se beneficien de nuestros datos clínicos. (Aplausos). Queremos la inteligencia artificial para nuestra democracia, para protegerla sobre todo contra la burocracia, los bulos y la desinformación del señor Alvise, de las señorías del Partido Popular y, sobre todo, de VOX. Queremos una inteligencia artificial al servicio de la paz, no un algoritmo que determina quién muere o quién vive hoy en día en Palestina.

Muchísimas gracias, señorías. (Aplausos).

Muchas gracias, presidenta. La regulación de la inteligencia artificial es un tema claramente de vital importancia que impactará en nuestro futuro con una impresionante capacidad de revolucionar industrias y mejorar nuestra calidad de vida. También plantea riesgos significativos, especialmente para los más vulnerables de nuestra sociedad. Es nuestra responsabilidad moral y ética asegurarnos, en el progreso tecnológico, de no dejar a nadie atrás, pero de verdad, y, más aún y más crucial, de que no cause daño a quienes no pueden defenderse. ¿Quién se va a oponer a esto? Pero el problema está, como viene siendo, por desgracia, habitual, en quién trae esto al Congreso, el Partido Socialista, que es un partido instaurado en la mentira, la corrupción y el mercadeo de derechos a cambio de privilegios institucionales. (Aplausos). Voy a poner énfasis en los puntos 3 y 5 de la PNL que ustedes traen. Dotar a la Agencia Española de Supervisión de la Inteligencia Artificial de mecanismos para evaluar el impacto social de la IA, de manera que promueva los valores humanistas, que vele por el bienestar social a través de un marco ético que garantice derechos individuales, etcétera. Esto suena muy bonito, pero no nos lo creemos; ustedes igual deberían autoenmendarse y añadir: salvo que se necesiten sus siete votos para gobernar, que entonces haremos lo que pidan. (Aplausos). Y en el punto 5 dicen: Aprovechar los mecanismos de concienciación existentes e impulsar nuevos, con la implicación de todas las administraciones públicas, que desarrollen el pensamiento crítico para combatir la desinformación y el uso de contenidos no adecuados según las edades de usuarios de la IA, así como un uso ético y responsable. Con el historial del PSOE en manipulación y mentiras, es como poner a un lobo a vigilar las ovejas. Y voy a poner un ejemplo. Hay muchísimos, pero por una cuestión de tiempos, me centro en uno muy representativo, que viene además muy al caso. El señor Sánchez llegó al poder con una moción de censura bajo el pretexto de acabar con la corrupción del Partido Popular; ahora, con su mujer siendo investigada, lanza una campaña en contra de los jueces, reparte pulseras con «free Bego» y elogia a Magdalena Álvarez, condenada a nueve años de inhabilitación por el delito de prevaricación en el caso de los ERE fraudulentos cuando era consejera de la Junta de Andalucía. (Aplausos). Ahora hemos sabido que también investigan a su hermano; no sabemos si van a hacer ustedes también pulseras de «free bro» o cuál va a ser el siguiente destino de esto. (Risas y aplausos). Este presidente y su Gobierno, fraudulento y corrupto, son los que van a decidir los mecanismos de concienciación o evaluación para controlar la inteligencia artificial y proteger a los más vulnerables; proteger a los más vulnerables dice este Gobierno, con un 26,5 % de la población de España que vive en riesgo de pobreza o de exclusión social. Esto lo dice el Instituto Nacional de Estadística, no VOX ni la ultraderecha ni paparruchas que ustedes promueven. (Aplausos). Es el INE, señorías.

No sabemos si ustedes pretenden, con un historial de mentiras, proteger a los más vulnerables teniendo una población en la que uno de cada tres no pudo irse de vacaciones al menos una vez al año el año pasado, o en la que el 6,4 % no se puede permitir comer carne o pollo al menos dos días a la semana, cifra más alta, por cierto, desde 2014. Ustedes también dicen que van a proteger a los más vulnerables, pero ustedes, señorías, lo único que hacen es aumentar la cifra de gente vulnerable con sus expolios fiscales, sus políticas de puertas abiertas a la inmigración ilegal y descontrolada o a la competencia desleal con productos extracomunitarios. (Aplausos). Señorías, nosotros no les creemos y les estaremos controlando.

Muchas gracias. (Aplausos de las señoras y los señores diputados del Grupo Parlamentario VOX, puestos en pie).

Muchas gracias, señora presidenta. Buenas tardes. Señorías del Partido Socialista, les confieso que estábamos bastante desconcertados con la proposición que traían hoy a esta Cámara, pero después de la intervención en la tribuna ya hemos visto exactamente para qué la querían utilizar. Teóricamente, hoy vienen a decirnos que hay que regular la inteligencia artificial, y la asocian a las personas más vulnerables. Claro, cuando uno lee la justificación y ve que hablan de aprovechar la Presidencia Europea de España para establecer un marco jurídico de la inteligencia artificial, lo que yo me pregunto es qué han estado ustedes haciendo estos últimos meses, por ejemplo, desde diciembre de 2023, cuando el Parlamento y el Consejo de Europa acordaron el texto definitivo del Reglamento de Inteligencia Artificial. ¿Qué han estado ustedes haciendo estos meses? Bueno, yo se lo voy a decir. Ustedes han estado más entretenidos en tapar los despropósitos del Gobierno del señor Pedro Sánchez que en aportar ideas en beneficio de la sociedad. (Aplausos). Son un gobierno, señorías, sin iniciativa política, y por eso traen aquí esta proposición de ley. Miren, lo que ustedes proponen ya existe. Esto es un auténtico despropósito del que no han querido hablar. La Ley de Inteligencia Artificial en Europa —y‌ por tanto en España, porque es de aplicación directa— ya existe. La agencia internacional de regulación de la inteligencia artificial —q‌ ue también la piden— también existe, se llama Oficina Europea de Inteligencia artificial, la ha creado la Unión Europea y la anunció la Comisión en enero de 2024. Esto es un nuevo despropósito de lo que traen hoy aquí. Pero lo que resulta más increíble es que propongan la creación de un grupo de trabajo para proteger a los menores en el acceso a las redes sociales. Acabamos de escuchar a mi compañera Noelia las propuestas concretas del Partido Popular para la protección de los menores en el entorno digital, y vienen ustedes aquí a pedir que se cree el grupo de trabajo que ya creó el Gobierno y al cual no le han hecho absolutamente ni caso. Es tremendo, señorías, cómo engañan ustedes a la ciudadanía una y otra vez. Hablan de seguir avanzando con la Agencia Española de Supervisión de la Inteligencia Artificial; este es un organismo público de obligada creación por la Unión Europea y que ya publicó el Gobierno de España en agosto 2023. Está en Galicia, en La Coruña. Por cierto, otro ejemplo de inacción del Gobierno: es una agencia que aún no tiene ni siquiera director y vienen ustedes aquí a pedir que se impulsen mecanismos para la agencia, una agencia absolutamente descabezada. (Aplausos). Pero si quieren hablar de personas vulnerables, de cómo ayudarlas y cómo protegerlas con la implementación de la inteligencia artificial, pues, oigan, léanse la ley. Si es que la Ley de Inteligencia Artificial ya lo dice. Si es que llevan mucho tiempo alardeando de que España lideró en Bruselas la elaboración del Reglamento de Inteligencia Artificial y luego resulta que no saben ni lo que pone. Hay un montón de artículos en la ley que recogen las obligaciones para los sistemas de inteligencia artificial directamente relacionados con las personas vulnerables, pero, claro, este no es el tema de hoy, este es un tema que realmente no les importa, porque aquí es donde viene la trampa, su manipulación con el tema de combatir la desinformación. Ahora ya entendemos el motivo de esta proposición no de ley. No podía faltar la persecución y el control de la información que el Gobierno considera falsa, como ha puesto de ejemplo la diputada del Partido Socialista. Hablan textualmente de establecer mecanismos en las administraciones públicas para combatir la desinformación. Oigan, ¿y qué ha pasado con las personas vulnerables? ¿Se han olvidado de ellas en el texto? Es inaceptable, es una vergüenza que utilicen el término personas vulnerables para incluir una proposición puramente ideológica, porque las personas vulnerables no lo merecen, no lo merecen y el resto de la ciudadanía tampoco. (Aplausos). Esto, señorías, sí que es una campaña de desinformación.

Para terminar, señora presidenta, esta proposición no de ley es un engaño, un engaño a la ciudadanía; es un intento del Grupo Socialista de utilizar la inteligencia artificial para desarrollar el programa ideológico de un gobierno absolutamente agotado; no hay nada relacionado con las personas vulnerables salvo en el texto, y es una proposición totalmente desfasada. Por tanto, con propuestas así, con el engaño de fondo, no nos pidan que seamos sus cómplices.

Muchas gracias y buenas tardes. (Aplausos).

Estamos negociando un texto con los grupos.