El Crepuscle
El programa radiofònic més premiat de les Illes Balears torna a les ones. En Pere Estelrich i els seus col·laboradors (Tomeu Orell, Maria Antich, Joan Roca, Biel Vich i Maria Moreno) tornen a encendre els estels cada vespre, de 21:00 a 22:00 hores, a Ona Mediterrània.
Subscriu-te
Intel·ligència artificial: usos, límits i riscos
Xavier Barona i els participants conversen sobre la diferència entre intel·ligència humana i artificial, els errors dels xats i la importància de formular bé les preguntes. Barona recomana no humanitzar la IA ni donar-li dades personals, i explica com entén la memòria de les converses.
Es presenta el convidat i la seva trajectòria acadèmica i professional. Barona explica què el va atreure de la informàtica i com la visió per computador el va acostar a la intel·ligència artificial i a aplicacions d’ajuda, entre d’altres, a persones amb discapacitat.
Barona repassa el pas de la computació analògica a la digital i els límits de les primeres aplicacions d’IA. Explica el canvi que va suposar poder crear models capaços d’entendre i produir llenguatge natural.
La conversa tracta la dependència de les infraestructures digitals, els possibles riscos d’accions en línia i la dificultat de controlar sistemes amb molts recursos. Barona parla de les empreses, dels incentius per desplegar models i de la diferència entre els recursos empresarials i els universitaris. En aquest mateix bloc es planteja si les empreses haurien de disposar d’un mecanisme per aturar els sistemes.
Barona explica el funcionament de les patents a partir d’un sistema que convertia el color en so per a persones invidents. També descriu les diferències de ritme entre la universitat i les empreses i exposa que la col·laboració pot orientar la recerca a problemes o productes concrets, com en un projecte de cotxe autònom amb Volkswagen.
A partir de pel·lícules com Her i Interestel·lar, es debat si una persona pot establir un vincle amb un assistent. Barona explica com es construeixen els sistemes conversacionals i sosté que la resposta programada d’un assistent no equival a un sentiment. També parla del valor que pot tenir saber que una feina l’ha feta una persona.
Els participants plantegen si la IA pot fer tasques d’acompanyament en situacions difícils. Barona diferencia aquestes funcions de les tasques de servei i adverteix que no s’ha d’emprar com a metge, advocat o psicòleg. Defensa l’ús educatiu com a suport a l’aprenentatge i insisteix a comprovar la fiabilitat de les fonts, també davant la informació que circula per TikTok.
La conversa aborda la possibilitat que les eines d’IA transmetin informació esbiaixada i qui decideix què poden respondre. Barona parla del paper de les empreses i de la regulació europea, i s’hi comenten els avisos sobre errors i els problemes que poden sorgir quan els sistemes donen respostes perjudicials.
Els participants pregunten qui ha de respondre pels errors d’un sistema. Barona exposa la complexitat d’atribuir responsabilitats en casos com els cotxes autònoms i la generació d’imatges, i recorda que les peticions dels usuaris i les decisions de disseny també formen part del problema. Defensa que les màquines serveixin de suport i no prenguin determinades decisions.
Es debat la gestió de les dades en eines digitals emprades en educació i sanitat, i qui ha d’assumir responsabilitats si no es compleixen les condicions de protecció. Al tram final, es parla de vehicles autònoms: Barona preveu una incorporació gradual, primer en entorns controlats i amb mesures de seguretat.
Tomeu Arell conversa amb el professor i investigador Xavier Barona Gómez, amb la participació de Maria Antic, Joan Roca i Biel Vic, sobre intel·ligència artificial. Barona explica que els xats no tenen intenció ni comprensió humana, que poden equivocar-se i que convé no humanitzar-los ni compartir-hi dades personals. Repassen l’evolució de la informàtica, la visió per computador i la recerca universitària, incloses les patents i la transferència de tecnologia a empreses. També tracten els vincles emocionals amb assistents, els usos educatius, la fiabilitat de la informació i els riscos de biaixos. La conversa aborda la regulació i la responsabilitat pels errors, la protecció de dades i l’arribada gradual de vehicles autònoms. Barona defensa la IA com a eina de suport, no com a substitut del criteri humà.