Inteligența artificială: biasuri și efecte

Dă unui sistem de traducere automată propoziția în engleză „The doctor said the nurse was late" și cere-i varianta românească. Multe sisteme aleg, fără să clipească, „doctorul" și „asistenta" — deși engleza nu spune nicăieri cine e bărbat și cine e femeie. Nimeni nu a programat regula asta. Atunci de unde a apărut? În lecția trecută, „De la descoperire la tehnologie", ai văzut că efectele sociale sunt ultima verigă a lanțului și cea mai greu de prevăzut. Azi ne uităm la o tehnologie care e chiar acum pe acea verigă, cu noi pe post de cobai: inteligența artificială.

La finalul lecției vei ști să explici cum învață un model din date, să identifici punctele prin care biasul intră într-un sistem și să argumentezi în scris o poziție despre folosirea IA într-o decizie importantă.

Cum învață o mașină

Uită pentru un moment filmele cu roboți. Un sistem de învățare automată e, în esență, o mașinărie de găsit tipare în exemple. Filtrul de spam din e-mail nu are o listă de reguli scrise de un om; a primit milioane de mesaje etichetate „spam" sau „bun" și a dedus singur ce au în comun cele proaste: anumite cuvinte, expeditori dubioși, linkuri suspecte. La fiecare mesaj nou, compară tiparele și dă un verdict.

Regula de aur, de reținut înaintea oricărei discuții despre IA: modelul nu știe decât ce era în datele lui. Nu are bun-simț, nu are experiență de viață, nu se poate întreba „stai, chiar are sens?". Dacă exemplele au fost strâmbe, tiparele învățate vor fi strâmbe — cu toată încrederea din lume.

Pe unde intră biasul

Trei uși de intrare, în ordinea de pe schemă:

Date incomplete. Antrenezi un model să recunoască mere doar din poze făcute ziua, în lumină bună. Noaptea, la lumina becului, modelul dă rateuri — nu pentru că merele s-au schimbat, ci pentru că lumea lui de antrenare nu conținea seri. La fel, un sistem de recunoaștere a feței antrenat mai ales pe chipuri cu piele deschisă greșește mult mai des la chipuri cu piele închisă. Cine lipsește din date lipsește din competența modelului.

Date istorice strâmbe. Modelul învață din decizii luate de oameni în trecut. Dacă trecutul a fost nedrept, modelul învață nedreptatea ca pe un tipar valoros și o aplică în viitor, la scară industrială. Traducerea din deschiderea lecției exact de aici vine: în milioanele de texte de antrenare, „doctor" apărea mai des lângă bărbați și „nurse" lângă femei, iar modelul a transformat statistica în regulă.

Etichete puse de oameni. Cineva decide ce e „spam", ce imagine e „frumoasă", ce comentariu e „toxic". Oamenii aceia au propriile obiceiuri și prejudecăți — iar modelul le moștenește pe toate, fără filtru.

Exemple la care ai acces și tu

Nu ai nevoie de laborator ca să prinzi biasul la lucru. Filtrele „de înfrumusețare" din aplicațiile foto subțiază fața și deschid tenul după un singur tipar de frumusețe — cel dominant în datele lor de antrenare, nu al tău. Asistentele vocale se descurcă impecabil în engleză și se împiedică în românește, mai ales la nume proprii și diacritice, pentru că româna e o felie mult mai mică din datele lor. Iar sistemul de recomandări al oricărei platforme video învață un singur lucru despre tine — pe ce ai mai apăsat — și îți servește tot mai mult din același fel, până când feed-ul tău arată ca o cameră cu oglinzi.

Da, chiar așa se întâmplă și în sala noastră: dacă doi colegi caută același cuvânt pe același motor de căutare, primesc adesea rezultate diferite. Fiecare vede lumea printr-un model deja mulat pe istoricul lui.

Ce se întâmplă când decizia contează

Un filtru foto părtinitor e enervant. Dar aceleași mecanisme sunt folosite azi la decizii cu miză mare: cine primește un credit de la bancă, ce CV ajunge pe masa angajatorului, ce cartier primește mai multe patrule de poliție. Aici biasul nu mai e un defect cosmetic — devine nedreptate automatizată, aplicată rapid, la mii de oameni, cu aparență de obiectivitate matematică.

Există și vestea bună: biasul, odată căutat, poate fi găsit și redus. Se echilibrează datele, se testează modelul separat pe grupuri diferite de oameni, se păstrează un om cu drept de veto la deciziile importante. Nimic din toate astea nu se întâmplă însă de la sine — cineva trebuie să întrebe. În Uniunea Europeană, sistemele de IA cu risc ridicat sunt deja obligate prin lege la astfel de verificări.

Studiu de caz: robotul care sorta CV-uri

A doua oră pornește de la un caz real, devenit celebru. O mare companie de comerț online a construit un sistem care să-i trieze automat CV-urile: modelul a fost antrenat pe CV-urile angajaților din ultimii zece ani și pe deciziile de angajare din acea perioadă. În acei zece ani, compania angajase în posturile tehnice majoritar bărbați. Rezultatul: modelul a învățat să penalizeze CV-urile care conțineau cuvântul „women's" — de exemplu „căpitana echipei de șah women's" — și absolventele anumitor licee de fete. Inginerii au încercat să corecteze, n-au reușit să garanteze că biasul a dispărut, iar sistemul a fost abandonat.

Discutați frontal, 10 minute, pe trei întrebări: pe care dintre cele trei uși a intrat biasul aici? Cine a fost nedreptățit, concret? Ar fi fost mai corectă trierea făcută de oameni obosiți, care au 30 de secunde pe CV?

Apoi, individual, argumentarea scrisă — 20 de minute, jumătate de pagină, la alegere una dintre poziții:

• „Școala mea ar putea folosi un sistem de IA care propune notele la purtare." — susții sau respingi;
• „Banca poate refuza automat un credit, fără ca un om să vadă dosarul." — susții sau respingi.

Structura obligatorie, în trei trepte: afirmația ta clară dintr-o frază, dovada — un fapt sau un exemplu din lecție ori din cazul CV-urilor, explicația — de ce dovada susține afirmația. Închei cu o frază care recunoaște cel mai puternic argument al taberei opuse. Textele se strâng: săptămâna viitoare, la atelierul de argumentare, le disecăm cu aceeași structură.

Exersează

1. O primărie antrenează un model să decidă unde repară străzile, pe baza sesizărilor din aplicația proprie. Cartierele sărace trimit puține sesizări, pentru că puțini au telefoane bune. Explică în două fraze ce va decide modelul și pe care „ușă" a intrat biasul.
2. Cere aceleiași aplicații de traducere trei propoziții din engleză în română cu meserii fără gen precizat („the engineer", „the teacher", „the cleaner"). Notează ce gen alege sistemul pentru fiecare și formulează o concluzie de o frază.
3. Scrie două întrebări pe care le-ai pune obligatoriu înainte ca școala ta să cumpere un sistem de IA pentru supravegherea examenelor.

Provocare: propune o metodă concretă prin care compania din studiul de caz ar fi putut testa sistemul înainte de a-l folosi pe CV-uri reale. Descrie testul în 3–4 fraze: ce date ai folosi, ce ai compara și ce rezultat te-ar face să oprești proiectul.