A partir d’una anàlisi de diferents tipologies d’eines d’IA amb potencial d’ús indegut, com ara els deepfakes (vídeos i àudios falsos d’alt realisme), els grans models de llenguatge (LLM), els bots d’amplificació massiva, les tècniques de microsegmentació psicogràfica i la suplantació d’identitat automatitzada, analitzarem com aquestes tecnologies podrien facilitar la generació i difusió de continguts enganyosos a gran escala, amb possibles efectes sobre la confiança ciutadana i el desenvolupament normal dels processos electorals.
Veurem exemples de casos documentats entre 2023 i 2026 en diversos països que posen de relleu la capacitat de la IA per incidir en l’esfera electoral i que inclouen –entre altres– episodis de difusió d’àudios manipulats a Turquia, la circulació de deepfakes a Corea del Sud o actuacions de desinformació en eleccions als Estats Units, Mèxic i diversos estats europeus.
Finalment, posarem de relleu la importància d’impulsar mesures que contribueixin a preservar la integritat del sistema democràtic davant de l’acceleració i ús de sistemes d’IA.

Albert Sabater és professor Serra Húnter de Sociologia Computacional, director de la Càtedra-Observatori d'Ètica en Intel·ligència Artificial de Catalunya (OEIAC) i delegat del Rector per a una IA Responsable a la Universitat de Girona.
És doctor (PhD) en Estadística Social per la Universitat de Manchester, màster (MSc) en Mètodes d'Investigació Social i Estadística per la mateixa universitat, i màster en Demografia per la Universitat Autònoma de Barcelona.
Els seus interessos d'investigació i docència se centren en l'avaluació de sistemes d'intel·ligència artificial des d'una perspectiva ètica i sociotècnica (un exemple són el desenvolupament dels Models PIO de l’OEIAC) i en aspectes metodològics i computacionals de les Ciències Socials, utilitzant censos, enquestes i dades massives.
És en aquest darrer apartat que ha realitzat la tesi doctoral, implementant algoritmes iteratius per tractar biaixos poblacionals a petita i gran escala.
Ha col·laborat en el disseny metodològic de nombroses recerques i ha estat investigador principal d'estudis d'alta complexitat, com ara el recent estudi de cas del consorci i projecte internacional Artificial Intelligence for Assessment (AI FORA) sobre l'ús de la intel·ligència artificial en la provisió de serveis socials des d'una perspectiva sociotècnica.