Koliko se politički stavovi jezičnih modela mogu usmjeravati?
Na konferenciji AIES 2026 u Malmöu predstavljen je rad o tome koliko se odgovori velikih jezičnih modela mogu usmjeriti uputama iz sistemskog prompta.
O projektu
Veliki jezični modeli sve češće sudjeluju u donošenju odluka, a vrijednosti i preferencije koje pritom slijede teško je uočiti i provjeriti. Moćni, ali neusklađeni sustavi umjetne inteligencije predstavljaju ozbiljan praktični rizik, a postojeće metode za razumijevanje i usklađivanje vrijednosti takvih sustava još su ograničene.
Projekt Vrijednosno usklađeno i interpretabilno optimiranje i rasuđivanje (VALOR) razvija metode za interpretabilnost i usklađivanje vrijednosti velikih jezičnih modela (LLM-ova) u procesima optimizacije i rasuđivanja. Navedeni cilj možemo podijeliti na:
- razvoj metoda koje omogućuju bolje razumijevanje načina na koji modeli donose odluke,
- razvoj tehnika za praćenje i usmjeravanje ponašanja modela prema ciljnim vrijednostima,
- izradu otvorenih testnih skupova i alata za procjenu usklađenosti vrijednosti.
VALOR je četverogodišnji institucijski istraživački projekt Fakulteta elektrotehnike i računarstva Sveučilišta u Zagrebu (FER), od listopada 2025. do rujna 2029. Voditelj projekta: Mario Brčić.
Istraživački tim
- izv. prof. dr. sc. Mario BrčićZPR
- izv. prof. dr. sc. Domagoj VlahZPM
- izv. prof. dr. sc. Mate PuljizZPM
- doc. dr. sc. Stjepan ŠebekZPM
- izv. prof. dr. sc. Vladimir KlemoZEMRIS
- doc. dr. sc. Marko SossichZPF
- dr. sc. Agneza KrajnaZPR
- Mihael Kovač, mag. ing. comp.ZPR
- dr. sc. Kristijan PojeZPR
- Iva Mikuš (Manojlović), mag. math.ZPM
- Luka Hobor, mag. ing. comp.ZPR
Vijesti
Sve vijesti →Gostujući istraživač dr. Wojciech Cygan sa Sveučilišta u Wrocławu
Dr. Wojciech Cygan (Uniwersytet Wrocławski) boravio je na FER-u i surađivao sa Stjepanom Šebekom na zakonima fluktuacija slučajnih šetnji s driftom.
VALOR na European Frontier AI-Safety Day u Berlinu
Voditelj projekta sudjelovao je na skupu europskih istraživača sigurnosti napredne umjetne inteligencije.
Bolje ocjene za „upisani polumjer” Brownova gibanja
Stjepan Šebek i suradnici poboljšali su ocjene za upisani polumjer konveksne ljuske ravninskog Brownova gibanja.
VALOR na 4th Korean–Croatian Summer Probability Camp u Dubrovniku
Stjepan Šebek sudjelovao je na hrvatsko-korejskoj ljetnoj školi iz teorije vjerojatnosti u Dubrovniku.
Stabilno dugoročno predviđanje rješenja parcijalnih diferencijalnih jednadžbi
Domagoj Vlah predstavio je na konferenciji Equadiff 2026 u Pragu latentno-tenzorske vizijske transformere za brzo i stabilno predviđanje rješenja parametarskih PDJ-ova.
Radovi
Radovi u časopisima
- Reduced order modeling of partial differential equations on parameter-dependent domains using deep neural networks Computers & Mathematics with Applications 216 (2026) 282–300DOIarXiv
Konferencijski radovi
- Auditing Alignment Controllability in LLMs via Political Axes AAAI/ACM Conference on AI, Ethics, and Society (AIES 2026), MalmöarXivGitHubZenodo
Preprinti
- Improved bounds on the inradius and inverse inradius process of the convex hull of planar Brownian motion arXiv:2607.26944, 2026arXiv
- On the convex hull of a planar Brownian bridge with a random Gaussian endpoint arXiv:2606.24485, 2026arXiv
- Expected perimeter and area of the convex hull of planar Brownian motion stopped upon exiting the unit disk arXiv:2604.18427, 2026arXiv
- AE-ViT: Stable Long-Horizon Parametric Partial Differential Equations Modeling arXiv:2604.06475, 2026arXiv
Izlaganja
- Stable Long-Horizon Prediction of Parametric PDE Solution with Latent-Tensor Vision Transformers Equadiff 2026, Prag / Prague