Roditeljsko usmjeravanje: 'umjetna inteligencija' koja se koristi za ocjenjivanje dadilja na temelju njihove povijesti društvenih medija
Kada je Jessie Battaglia počela tražiti novu bejbisiterku za svog jednogodišnjeg sina, željela je više informacija nego što je mogla dobiti od kriminalne provjere, komentara roditelja i intervjua licem u lice.
Tako se okrenula Predictimu, online servisu koji koristi "naprednu umjetnu inteligenciju" kako bi procijenio osobnost dadilje i usmjerio svoje skenere na tisuće Facebook, Twitter i Instagram postova.
Sustav je ponudio automatiziranu "ocjenu rizika" 24-godišnjeg kandidata, tvrdeći da je u "vrlo malom riziku" biti zlostavljač droge. No, to je dalo nešto veću procjenu rizika - dvije od pet - za zlostavljanje, uznemiravanje, "nepoštivanje" i "loš stav".
Sustav nije objasnio zašto je donio takvu odluku. Ali Battaglia, koja je vjerovala da je dadilja pouzdana, odjednom je osjetila bol.
"Društveni mediji pokazuju karakter osobe", kaže 29-godišnja Battaglia, koja živi u blizini Los Angelesa. "Pa zašto je onda došla kod dvojice, a ne u jednog?"
Predictim roditeljima nudi istu knjigu igara koju desetine drugih tehnoloških tvrtki prodaje poslodavcima širom svijeta: sustavi umjetne inteligencije koji analiziraju govor osobe, izraze lica i povijest na internetu s obećanjima da će otkriti skrivene aspekte svog privatnog života.
Tehnologija mijenja način na koji neke tvrtke pristupaju zapošljavanju, zapošljavanju i pregledavanju radnika, nudeći poslodavcima nenadmašan pogled na kandidate za posao kroz novi val invazivne psihološke procjene i nadzora.
Tehnološka tvrtka Fama kaže da koristi AI u društvenim medijima policijskih radnika za "toksično ponašanje" i upozorava svoje šefove. A tvrtka za zapošljavanje-tehnologiju HireVue, koja radi s tvrtkama kao što su Geico, Hilton i Unilever, nudi sustav koji automatski analizira ton podnositelja zahtjeva, izbor riječi i pokrete lica tijekom video intervjua kako bi predvidio njihovu vještinu i ponašanje na poslu. (Kandidati se potiču na osmjeh za najbolje rezultate.)
No, kritičari kažu da Predictim i slični sustavi predstavljaju svoje vlastite opasnosti time što praktički ne provode automatizirane i moguće odluke o promjeni života.
Sustavi ovise o algoritmima crne kutije koji daju malo detalja o tome kako su smanjili složenost unutarnjeg života osobe u proračune vrline ili štete. Čak i budući da Predictimova tehnologija utječe na razmišljanje roditelja, ona ostaje posve nedokazana, uglavnom neobjašnjiva i podložna tihim predrasudama o tome kako bi odgovarajuća dadilja trebala dijeliti, gledati i govoriti.
Tu je "luda žurba da se iskoristi moć AI-a da donese sve vrste odluka bez osiguranja da je odgovorna prema ljudskim bićima", rekao je Jeff Chester, izvršni direktor Centra za digitalnu demokraciju, tehnološko zagovaranje. "To je kao da su ljudi popili digitalnu Kool-Aid i misle da je to prikladan način upravljanja našim životima."
Predictimovi skenovi analiziraju cjelokupnu povijest društvenih medija dadilje, koji, za mnoge najmlađe, mogu pokriti većinu njihovih života. Sittersima je rečeno da će biti u velikoj nepovoljnosti za konkurentne poslove ako odbije.
Predictimov šef i suosnivač Sal Parsa izjavio je da je tvrtka, pokrenuta prošlog mjeseca kao dio Sveučilišta u Kaliforniji u Berkeleyjevom tehnološkom inkubatoru SkyDeck, ozbiljno shvaćala etička pitanja o uporabi tehnologije. Roditelji, rekao je, trebali bi vidjeti ocjene kao pratioca koji "može ili ne mora odražavati stvarne atribute čuvara".
No, opasnost od zapošljavanja problematične ili nasilne dadilje, dodao je, čini AI neophodnim alatom za svakog roditelja koji se nada da će njegovo dijete biti sigurno.
"Ako tražite Google zlostavljajuće dadilje, odmah ćete vidjeti stotine rezultata", rekao je. "Tamo su ljudi koji imaju ili duševnu bolest ili su samo rođeni zli. Naš cilj je učiniti sve što možemo da ih zaustavimo."
Predictim skeniranje počinje od 24, 99 dolara i zahtijeva ime i adresu e-pošte dadilje i njezin pristanak za dijeljenje širokog pristupa računima društvenih medija. Babysitter može odbiti, ali roditelj je obaviješten o njezinu odbijanju, a u e-mailu se čuva beba-dadilja "zainteresirani roditelj neće biti u mogućnosti da vas zaposli dok ne popunite ovaj zahtjev".
Predictimovi rukovoditelji kažu da koriste algoritme za obradu jezika i softver za prepoznavanje slika poznatiji kao "računalni vid" kako bi procijenili Facebook, Twitter i Instagram postove čuvara djeteta za tragove o njihovom životu izvan mreže. Roditelju se izvješće daje isključivo i ne mora pokazivati rezultate.
Roditelji bi, pretpostavljam, mogli sami pogledati javne račune društvenih medija svojih sittera. Ali računalno generirana izvješća obećavaju dubinsku provjeru godina online aktivnosti, koja se svodi na jednu znamenku: opojno jednostavno rješenje za nepraktičan zadatak.
Ocjene rizika podijeljene su u nekoliko kategorija, uključujući eksplicitni sadržaj i zlouporabu droga. Start-up je također objavio da njegov sustav može procijeniti babysitters na druge osobine ličnosti, kao što su pristojnost, sposobnost za rad s drugima i "pozitivnost".
Tvrtka se nada da će razviti multibilijunsku industriju "roditeljskog outsourcinga" i počela oglašavati putem plaćenih sponzorstava roditeljskih i "mumijskih" blogova. Tvrtka se fokusira na sposobnost otkrivanja skrivenih tajni i sprječavanja "noćnih mora svakog roditelja", navodeći kriminalne slučajeve, uključujući onu od dadilje Kentuckyja koja je ranije ove godine optužena za ozbiljno ozlijeđenu osmomjesečnu djevojku.
"Da su roditelji male djevojčice koju je ranila ova dadilja mogli koristiti Predictim kao dio svog procesa provjere", navodi se u dokumentu tvrtke, "oni je nikada ne bi ostavili na miru s njihovim dragocjenim djetetom."
No, tehnički stručnjaci kažu kako sustav podiže vlastite zastave, uključujući i zabrinutost da se prepire od straha roditelja da prodaju skenirane osobnosti netestirane točnosti.
Oni se također pitaju kako se sustavi obučavaju i kako bi mogli biti ranjivi na pogrešno razumijevanje nejasnih značenja društvenih medija korisnika. Za sve osim skeniranja s najvećim rizikom, roditeljima se daje samo prijedlog upitnog ponašanja i nema posebnih fraza, veza ili pojedinosti koje bi sami procijenili.
Kada je skeniranje jednog dadilja obilježeno mogućim nasilničkim ponašanjem, uznemirena majka koja je to zatražila, rekla je da ne može reći je li softver uočio stari filmski citat, pjesmu ili neku drugu frazu, za razliku od stvarnog jezika zlostavljanja.
Međutim, Predictim ipak kaže kako se priprema za širenje diljem zemlje. Rukovoditelji u Sittercityu, on-line tržnici za čuvanje djece koju su posjetili milijuni roditelja, kažu da će pokrenuti pilot program početkom sljedeće godine koji će se smanjiti u Predictimovim automatiziranim ocjenama u trenutnom nizu projekcija i provjera pozadine.
"Pronalaženje dadilje može doći s mnogo neizvjesnosti", kaže Sandra Dainora, šefica Sittercitya, koja vjeruje da bi takvi alati uskoro mogli postati "standardna valuta" za pronalaženje skrbnika online. "Roditelji uvijek traže najbolje rješenje, najviše istraživanja, najbolje činjenice."
Washington Post