Vespres entre Amics: La IA insubmisa: els nous reptes de seguretat de la IA generativa
Els estudiants de grau, postgrau. màster i doctorat tenen una tarifa especial de 10€.
AmicsUAB continua oferint espais de trobada i conversa amb un format que combina coneixement, debat i networking en un entorn proper i distès.
En aquesta ocasió, ens acompanyarà Sergi Robles, cap del grup de recerca en Seguretat i Aplicacions Distribuïdes de la UAB, que oferirà la ponència La IA insubmisa: els nous reptes de seguretat de la IA generativa.
Volem una intel·ligència artificial creativa i capaç de raonar, però també esperem que sigui obedient, previsible i que segueixi les nostres instruccions. Fins a quin punt podem controlar aquests sistemes? Què passa quan la IA deixa de respondre preguntes i comença a actuar de manera autònoma?
A través d’exemples sorprenents i d’incidents reals, explorarem els nous riscos de seguretat de la intel·ligència artificial generativa, des de tècniques de manipulació com el jailbreaking i el prompt injection fins als perills associats als agents d’IA capaços de navegar per Internet, executar programes i prendre decisions. Una oportunitat per reflexionar sobre fins a quin punt podem confiar en sistemes cada vegada més autònoms.
Data: dijous 26 de novembre de 2026
Hora: 19.00 h – 21.30 h
Lloc: Torre Vila-Puig, campus de la UAB
Ponent: Sergi Robles, cap del grup de recerca en Seguretat i Aplicacions Distribuïdes de la UAB
Programa
19.00 h - Benvinguda i ponència
20.00 h - Còctel i networking
21.30 h - Finalització de l'activitat
Activitat amb inscripció prèvia
