Recunoasterea faciala va poate conecta la iPhone-ul dvs., poate urmari infractorii prin multimi si poate identifica clientii fideli din magazine.
Tehnologia – care este imperfecta, dar se imbunatateste rapid – se bazeaza pe algoritmi care invata cum sa recunoasca fetele umane si sutele de moduri in care fiecare este unic.
Pentru a face acest lucru bine, algoritmii trebuie alimentati cu sute de mii de imagini dintr-o gama diversa de fete. Din ce in ce mai mult, acele fotografii provin de pe internet, unde sunt maturate de milioane fara stirea persoanelor care le-au postat, clasificate in functie de varsta, sex, tonul pielii si alte zeci de valori si distribuite cercetatorilor din universitati si companii.
Pe masura ce algoritmii devin mai avansati – adica sunt mai capabili sa identifice femeile si oamenii de culoare, o sarcina cu care s-au luptat istoric – expertii juridici si avocatii drepturilor civile trag un semnal de alarma cu privire la utilizarea de catre cercetatori a fotografiilor oamenilor obisnuiti. Chipurile acestor oameni sunt utilizate fara consimtamantul lor, pentru a alimenta tehnologia care ar putea fi folosita in cele din urma pentru a le supraveghea.
Aceasta este o preocupare speciala pentru minoritatile care ar putea fi profilate si vizate, spun expertii si avocatii.
„Acesta este micul secret murdar al seturilor de antrenament AI. Cercetatorii aduc adesea orice imagini sunt disponibile in salbaticie ”, a declarat Jason Schultz, profesor la Facultatea de Drept din NYU.
Cea mai recenta companie care a intrat pe acest teritoriu a fost IBM, care a lansat in ianuarie o colectie de aproape un milion de fotografii care au fost facute de pe site-ul de gazduire a fotografiilor Flickr si codificate pentru a descrie aspectul subiectilor. IBM a promovat colectia cercetatorilor ca un pas progres spre reducerea prejudecatii in recunoasterea faciala.
Dar unii dintre fotografii ale caror imagini au fost incluse in setul de date IBM au fost surprinsi si deranjati cand NBC News le-a spus ca fotografiile lor au fost adnotate cu detalii, inclusiv geometria fetei si tonul pielii si pot fi folosite pentru a dezvolta algoritmi de recunoastere faciala. (NBC News a obtinut setul de date IBM dintr-o sursa dupa ce compania a refuzat sa il impartaseasca, spunand ca ar putea fi folosit doar de grupuri de cercetare academice sau corporative.)
„Niciuna dintre persoanele pe care le-am fotografiat nu a avut idee ca imaginile lor sunt folosite in acest fel”, a spus Greg Peverill-Conti, un director de relatii publice din Boston, care are peste 700 de fotografii in colectia IBM, cunoscut sub numele de „set de date de instruire”. ”
„Pare putin schitat faptul ca IBM poate folosi aceste imagini fara sa spuna nimanui nimic”, a spus el.
John Smith, care supravegheaza cercetarea AI la IBM, a declarat ca compania s-a angajat sa „protejeze confidentialitatea persoanelor” si „va colabora cu oricine solicita eliminarea unei adrese URL din setul de date”.
In ciuda asigurarilor IBM ca utilizatorii Flickr pot renunta la baza de date, NBC News a descoperit ca este aproape imposibil sa scoateti fotografiile. IBM cere fotografilor sa trimita prin e-mail linkuri catre fotografiile pe care doresc sa le elimine, insa compania nu a distribuit public lista utilizatorilor Flickr si fotografiile incluse in setul de date, deci nu exista o modalitate usoara de a afla ale cui fotografii sunt incluse. IBM nu a raspuns la intrebarile despre acest proces.
Pentru a vedea daca fotografiile dvs. Flickr fac parte din setul de date, introduceti numele de utilizator intr-un instrument NBC News creat pe baza setului de date IBM:
IBM spune ca setul sau de date este conceput pentru a ajuta cercetatorii universitari sa faca tehnologia recunoasterii faciale mai echitabila. Compania nu este singura care foloseste in acest fel fotografii disponibile public pe internet. Zeci de alte organizatii de cercetare au colectat fotografii pentru antrenarea sistemelor de recunoastere faciala, iar multe dintre colectiile mai mari si mai recente au fost extrase de pe web.
Unii experti si activisti sustin ca aceasta nu este doar o incalcare a vietii private a milioanelor de oameni ale caror imagini au fost maturate – ridica, de asemenea, ingrijorari mai mari cu privire la imbunatatirea tehnologiei de recunoastere faciala si teama ca va fi folosita de lege agentiile de aplicare a legii sa vizeze in mod disproportionat minoritatile.
„Oamenii si-au dat consimtamantul pentru a-si partaja fotografiile intr-un ecosistem de internet diferit”, a spus Meredith Whittaker, codirector al AI Now Institute, care studiaza implicatiile sociale ale inteligentei artificiale. „Acum, acestia sunt, fara sa vrea sau fara sa stie, instruiti in sisteme care ar putea fi utilizate in mod opresiv impotriva comunitatilor lor”.
Cum a evoluat recunoasterea faciala
In primele zile ale construirii instrumentelor de recunoastere faciala, cercetatorii au platit oamenii sa vina la laboratoarele lor, sa semneze formulare de consimtamant si sa isi faca fotografia in diferite ipostaze si conditii de iluminare. Deoarece acest lucru era costisitor si consuma mult timp, seturile de date timpurii erau limitate la cateva sute de subiecti.
Odata cu aparitia internetului in anii 2000, cercetatorii au avut brusc acces la milioane de fotografii cu oameni.
Amazon Rekognition permite utilizatorilor sa urmareasca oamenii printr-un videoclip chiar si atunci cand fetele lor nu sunt vizibile
„Ar intra intr-un motor de cautare, introduceau numele unei persoane celebre si descarcau toate imaginile”, a spus P. Jonathon Phillips, care colecteaza seturi de date pentru masurarea performantei algoritmilor de recunoastere a fetei pentru Institutul National de Standarde si Tehnologie . „La inceput, acestia au avut tendinta de a fi oameni celebri, vedete, actori si oameni de sport”.
Pe masura ce retelele sociale si continutul generat de utilizatori au preluat, fotografiile persoanelor obisnuite erau din ce in ce mai disponibile. Cercetatorii au tratat acest lucru ca pe o scurgere gratuita a fetelor din videoclipurile de pe YouTube, Facebook, Google Images, Wikipedia si bazele de date de tip mugshot.
Academicii fac adesea apel la natura necomerciala a muncii lor pentru a ocoli intrebarile legate de drepturile de autor. Flickr a devenit o resursa atragatoare pentru cercetatorii in recunoasterea faciala, deoarece multi utilizatori si-au publicat imaginile sub licente „Creative Commons”, ceea ce inseamna ca altii isi pot refolosi imaginile fara a plati taxe de licenta. Unele dintre aceste licente permit utilizarea comerciala.
Pentru a-si construi setul de date Diversity in Faces, IBM spune ca s-a bazat pe o colectie de 100 de milioane de imagini publicate cu licente Creative Commons pe care proprietarul Flickr, Yahoo, le-a lansat ca lot pentru ca cercetatorii sa le descarce in 2014. IBM a redus acel set de date la aproximativ 1 milion fotografii ale fetelor care au fost fiecare adnotate, folosind coduri automate si estimari umane, cu aproape 200 de valori pentru detalii precum masuratori ale trasaturilor faciale, pozitie, tonus al pielii si varsta si sex estimate, conform setului de date obtinut de NBC News.
IBM a calculat zeci de masuratori pentru fiecare fata inclusa in setul de date
Este un singur studiu de caz intr-o mare de seturi de date preluate de pe web. Potrivit Google Scholar, sute de lucrari academice au fost scrise pe spatele acestor colectii uriase de fotografii – care au nume precum MegaFace, CelebFaces si Faces in the Wild – contribuind la salturi majore in precizia instrumentelor de recunoastere faciala si de analiza. A fost dificil sa gasim cadre universitare care sa vorbeasca despre inregistrarea originilor seturilor lor de date de formare; multi si-au avansat cercetarile folosind colectii de imagini extrase de pe web fara licentierea explicita sau consimtamantul informat.
Cercetatorii care au construit aceste seturi de date nu au raspuns la solicitarile de comentarii.
Cum foloseste IBM baza de date a fetei
IBM a lansat colectia sa de imagini adnotate catre alti cercetatori, astfel incat sa poata fi utilizata pentru a dezvolta sisteme de recunoastere faciala „mai echitabile”. Asta inseamna ca sistemele pot identifica mai precis persoanele de toate rasele, varstele si sexele.
„Pentru ca sistemele de recunoastere faciala sa functioneze dupa cum se doreste si rezultatele sa devina din ce in ce mai exacte, datele de instruire trebuie sa fie diverse si sa ofere o gama larga de acoperire”, a declarat John Smith, IBM, intr-o postare pe blog care anunta lansarea datelor.
Setul de date nu leaga fotografiile fetelor oamenilor de numele acestora, ceea ce inseamna ca orice sistem instruit sa utilizeze fotografiile nu ar putea identifica persoanele numite. Dar sustinatorii libertatii civile si cercetatorii in etica tehnologica au pus la indoiala motivele IBM, care are o istorie de vanzare a instrumentelor de supraveghere care au fost criticate pentru incalcarea libertatilor civile.
De exemplu, in urma atacurilor din 11 septembrie, compania a vandut tehnologie catre departamentul de politie din New York, care i-a permis sa caute fluxuri CCTV pentru persoane cu nuante de piele sau culoare speciala a parului. IBM a lansat, de asemenea, un produs de „analiza video inteligenta” care utilizeaza supravegherea camerei corporale pentru a detecta oamenii dupa etichete „etnice”, cum ar fi asiatic, negru sau alb.
IBM a declarat intr-un e-mail ca sistemele nu sunt „inerent discriminatorii”, dar a adaugat: „Credem ca atat dezvoltatorii acestor sisteme, cat si organizatiile care le implementeaza au responsabilitatea de a lucra activ pentru a atenua prejudecatile. Este singura modalitate de a va asigura ca sistemele AI vor castiga increderea utilizatorilor lor si a publicului. IBM accepta pe deplin aceasta responsabilitate si nu ar participa la lucrari care implica profilarea rasiala. ”
Astazi, compania vinde un sistem numit IBM Watson Visual Recognition, despre care IBM spune ca poate estima varsta si sexul persoanelor descrise in imagini si, cu datele de instruire corecte, poate fi utilizat de clienti pentru a identifica anumite persoane din fotografii sau videoclipuri.
NBC News l-a intrebat pe IBM ce date de instruire a folosit IBM Watson pentru abilitatile sale comerciale de recunoastere faciala, aratand catre o postare pe blogul companiei care a declarat ca Watson este „transparent cu privire la cine antreneaza sistemele noastre de IA, ce date au fost folosite pentru a instrui aceste sisteme”. Compania a raspuns ca foloseste date „obtinute din diferite surse” pentru a-si instrui modelele de AI, dar nu dezvaluie aceste date public pentru „a ne proteja perspectivele si proprietatea intelectuala”.
IBM a declarat atat in declaratii publice, cat si direct catre NBC News ca setul de date Diversity in Faces este doar pentru cercetare academica si nu va fi utilizat pentru a imbunatati instrumentele comerciale de recunoastere faciala ale companiei. Acest lucru pare sa fie in contradictie cu afirmatia companiei din ianuarie in materialele promotionale ca lansarea setului de date este un raspuns direct la cercetarile efectuate de Joy Buolamwini de la MIT, care a aratat ca tehnologia comerciala de recunoastere faciala a IBM a fost mult mai proasta la identificarea cu precizie a femeilor cu pielea mai inchisa la culoare decat la cele mai deschise. barbati jupuiti.
Cand a fost intrebat despre acest conflict si in special despre modul in care setul de date Diversity in Faces ar putea avea un impact real asupra reducerii prejudecatii daca IBM nu il foloseste in produsele comerciale de recunoastere faciala, Smith a spus intr-un e-mail ca „invatarile stiintifice despre diversitatea faciala ne va avansa intelegerea si ne va permite sa cream sisteme mai corecte si corecte in practica. ”
„Recunoastem ca partinirea societatii nu este neaparat ceva ce putem aborda pe deplin cu stiinta, dar scopul nostru este sa abordam partinirea matematica si algoritmica”, a spus Smith. www.mediafire.com
- rase de caini
- mc donalds
- stalin
- beton amprentat
- fsega
- https://hbogo.ro/activate
- casti
- test speed
- mp4
- carturesti
- ikea online
- stiri brasov
- awb fan
- hervis sport
- chec
- digi sport live
- fs
- porntube
- vagabond studio
- ikea romania
Expertii noteaza ca distinctia dintre aripile de cercetare si operatiunile comerciale ale corporatiilor precum IBM si Facebook este una neclara. In cele din urma, IBM detine orice proprietate intelectuala dezvoltata de unitatea sa de cercetare.
Chiar si atunci cand algoritmii sunt dezvoltati de cercetatori universitari folosind seturi de date necomerciale, acesti algoritmi sunt adesea utilizati ulterior de catre companii, a declarat Brian Brackeen, fost CEO al companiei de recunoastere faciala Kairos.
Ca o analogie, a spus el, „ganditi-va la asta ca la spalarea banilor pentru recunoasterea faciala. Spalati drepturile de IP si de confidentialitate. “
IBM a spus ca nu va folosi setul de date Diversity in Faces in acest fel.
Fotografi impartiti pe setul de date IBM
Un fotograf si antreprenor austriac, Georg Holzer, si-a incarcat fotografiile pe Flickr pentru a-si aminti momente minunate cu familia si prietenii sai si a folosit licentele Creative Commons pentru a permite organizatiilor nonprofit si artistilor sa isi foloseasca fotografiile gratuit. El nu se astepta ca peste 700 de imagini sa fie maturate pentru a studia tehnologia de recunoastere faciala.
„Stiu despre raul pe care o poate provoca o astfel de tehnologie”, a spus el prin Skype, dupa ce NBC News i-a spus ca fotografiile sale se afla in setul de date IBM. „Desigur, nu puteti uita niciodata de utilizarile bune ale recunoasterii imaginilor, cum ar fi gasirea mai rapida a imaginilor de familie, dar poate fi folosita si pentru a restrange drepturile fundamentale si confidentialitatea. Nu pot niciodata aproba sau accepta utilizarea pe scara larga a unei astfel de tehnologii. ”
O fotografie Flickr de Georg Holzer inclusa in setul de date IBM. Georg Holzer / Flickr
Holzer era ingrijorat de faptul ca o companie precum IBM – chiar si divizia sa de cercetare – a folosit fotografii publicate de el sub licenta necomerciala.
„Din moment ce presupun ca IBM nu este o organizatie caritabila si, la sfarsitul zilei, vrea sa castige bani cu aceasta tehnologie, aceasta este in mod clar o utilizare comerciala”, a spus el.
Dolan Halbrook, care are sediul in Portland, Oregon, si are 452 de fotografii in setul de date, a fost de acord ca IBM ar fi trebuit sa-i ceara permisiunea.
„Ma enerveaza utilizarea lor fara o notificare prealabila si sansa de a revizui care ar fi incluse”, a spus Halbrook. „Sunt ambivalent in ceea ce priveste imbunatatirea tehnologiei in sine.”
O fotografie Flickr de Greg Peverill-Conti inclusa in setul de date IBM. Greg Peverill-Conti / Flickr
Alti fotografi au fost bucurosi sa auda ca imaginile lor pot fi folosite pentru a avansa in domeniul recunoasterii faciale.
„Recunoasterea faciala este unul dintre acele lucruri pe care nu le putem dezinventa, asa ca a avea un sistem de incredere este mai bun decat unul care genereaza erori si falsuri de identificare”, a spus Neil Moralee, consultant alimentar si fotograf cu sediul in Marea Britanie, specializat in portrete.
O fotografie Flickr de Sebastian Gambolati inclusa in setul de date IBM. Sebastian Gambolati / Flickr
Guillaume Boppe din Elvetia a fost de acord. „Daca imaginile fetelor pe care le-am fotografiat ajuta AI sa se imbunatateasca, reducand detectarea falsa si imbunatatind in cele din urma siguranta globala, sunt bine cu asta”, a spus el.
Sebastian Gambolati, din Argentina, a fost fericit sa contribuie la o tehnologie mai precisa pentru gasirea persoanelor disparute sau urmarirea infractorilor, dar a spus ca ar fi fost „frumos daca ar intreba”.
„In contul meu Flickr sunt o multime de fotografii pe care le-am facut de la oameni in evenimente care nu imi sunt apropiate”, a spus el, „si nu stiu ce parere au despre compania care isi foloseste fotografiile fara consimtamantul lor”.
Putine optiuni pentru renuntare
IBM ofera un model de renuntare: oamenii pot contacta IBM cu legaturi individuale catre fotografiile pe care doresc sa le elimine din setul de date – fie pe cele pe care le-au facut, fie pe cele in care sunt prezentate – si IBM spune ca le va elimina, conform notificare de confidentialitate. „Cu toate acestea, nu exista o modalitate usoara de a sti daca sunteti prezentat in setul de date si chiar daca aflati ca sunteti, IBM a spus ca nu va elimina fotografiile pe baza ID-ului dvs. de utilizator Flickr decat daca aveti si linkuri la fiecare dintre fotografii.
Cand NBC News a alertat un fotograf, care a cerut sa nu fie numit din motive de confidentialitate, ca peste 1.000 de fotografii ale sale erau incluse in setul de date IBM, el a incercat sa renunte trimitandu-i IBM ID-ul de utilizator Flickr. IBM i-a spus ca niciuna dintre fotografiile sale nu se afla in setul de date, potrivit unui e-mail vizualizat de NBC News. Cand NBC News a distribuit legaturi specifice catre unele dintre fotografiile sale din setul de date IBM, compania a dat vina pe un „bug de indexare” pentru incapacitatea initiala de a confirma ca imaginile sale au fost incluse. Dupa mai bine de o saptamana, IBM a confirmat ca a eliminat cele patru fotografii pe care le-a a furnizat linkuri catre. Conform analizei NBC News, el mai are inca 1.001 fotografii in setul de date.
Smith, de la IBM, a declarat intr-o declaratie ca toate cererile de eliminare a adreselor URL au fost finalizate.
Chiar si dupa ce o imagine este eliminata din setul de date IBM, nu va fi eliminata din versiunile setului de date deja partajate cu partenerii de cercetare (aproximativ 250 de organizatii au solicitat acces pana acum), a spus IBM. Nici nu va fi eliminat din setul de date Flickr subiacent.
Pentru cei prinsi in setul de date IBM sau pentru altii asemanatori, acest lucru face ca notiunea de renuntare sa para lipsita de speranta.
Cu toate acestea, poate exista recurs legal in unele jurisdictii datorita cresterii legilor privind confidentialitatea care recunosc valoarea unica a fotografiilor fetelor oamenilor. In conformitate cu Regulamentul general privind protectia datelor din Europa, fotografiile sunt considerate „informatii personale sensibile” daca sunt utilizate pentru a confirma identitatea unei persoane. Locuitorii Europei care nu doresc ca datele lor sa fie incluse pot cere IBM sa le stearga. In cazul in care IBM nu se conformeaza, poate depune plangere autoritatii de protectie a datelor din tara lor, care, daca fotografiile respective intra sub definitia „informatiilor personale sensibile”, pot percepe amenzi impotriva companiilor care incalca legea.
In SUA, unele state au legi care ar putea fi relevante. Conform Legii privind confidentialitatea informatiilor biometrice din Illinois, de exemplu, poate fi o incalcare a captarii, stocarii si partajarii informatiilor biometrice fara acordul scris al unei persoane. Conform actului, informatiile biometrice includ amprente digitale, scanari ale irisului si geometria fetei.
„Acesta este tipul de colectare in masa si de utilizare a datelor biometrice care pot fi abuzate cu usurinta si se pare ca se desfasoara fara stirea celor din fotografii”, a declarat Jay Edelson, un avocat de actiune colectiva din Chicago, care da in judecata in prezent Facebook pentru utilizarea instrumentelor de recunoastere faciala.
Pana in prezent, niciuna dintre aceste legi nu a fost testata riguros.
IBM a refuzat sa comenteze legile.
„Incredibil de apasator cu cat devine mai precis”
In afara de problemele de confidentialitate, ramane o intrebare mai mare: sunt sistemele de recunoastere faciala mai exacte de fapt „mai echitabile”? Si este posibil ca recunoasterea faciala sa fie deloc corecta?
„Ai intr-adevar o situatie dificila care se intampla aici”, a spus Woody Hartzog, profesor de drept si informatica la Universitatea Northeastern. „Recunoasterea faciala poate fi extrem de daunatoare atunci cand este inexacta si incredibil de opresiva, cu cat devine mai precisa.”
Desi exista utilizari benigne pentru recunoasterea faciala, aceasta poate fi folosita si pentru supravegherea si vizarea persoanelor de culoare si a altor comunitati vulnerabile si minoritare. Bazele de date de recunoastere faciala a fotografiilor sunt mai susceptibile sa includa afro-americani, latino-americani si imigranti, deoarece aceste grupuri sunt vizate de practici politienesti partinitoare, spun grupurile pentru drepturile civile. Acest lucru inseamna ca acei oameni sunt mult mai „de gasit” prin tehnologia de recunoastere faciala, chiar daca au fost arestati in mod gresit cand li s-a luat cana.
Utilizarea sistemelor de supraveghere a recunoasterii faciale de catre fortele de ordine este atat de controversata incat o coalitie formata din peste 85 de grupuri de justitie rasiala si drepturi civile au cerut companiilor tehnologice sa refuze sa vanda tehnologia guvernelor. Aceste grupuri sustin ca tehnologia exacerbeaza „partinirea istorica si existenta” care dauneaza comunitatilor care sunt deja „supra-supravegheate si supra-supravegheate”.
„Aceste sisteme sunt desfasurate in contexte opresive, adesea de catre fortele de ordine”, a spus Whittaker, de la AI Now Institute, „iar obiectivul de a le face mai capabili sa supravegheze pe oricine este unul pe care ar trebui sa-l privim foarte sceptic”.
CORECTIE (12 martie 2019, 20:18 ET): o versiune anterioara a acestui articol a descris incorect pozitia lui Brian Brackeen la Kairos. El este fostul CEO, nu cel actual.
CLARIFICARE (17 martie 2019, 11:25 AM ET): o versiune anterioara a acestui articol spunea ca IBM a accesat fotografiile Flickr rapind-le de pe site-ul Flickr, sugerand ca au fost luate de pe site-ul web live. IBM spune ca a facut fotografii dintr-o colectie lansata de Flickr in urma cu cativa ani cu fotografii facute din propriile baze de date.
