Jedyny w Polsce serwis o internecie, prywatności i mediach społecznościowych pisany z perspektywy technologicznej, humanistycznej i społecznej

Firma IBM została oskarżona o wykorzystywanie zdjęć z serwisu Flickr do trenowania własnego systemu rozpoznawania twarzy, bez zgody osób, które znalazły się na tych zdjęciach – poinformowała amerykańska stacja NBC News. Wyścig o to, kto zbuduje największy zbiór danych pozwalający na stworzenie najbardziej wydajnego algorytmu na świecie trwa.

Trenowanie sztucznej inteligencji

Wykorzystany przez IBM zbiór danych pochodził z ogromnej kolekcji około 100 milionów zdjęć (nazywanej roboczo zbiorem YFCC-100M) opartej na licencji Creative Commons (CC). Kolekcja została opublikowana przez byłego już właściciela serwisu Flickr – Yahoo, w celu wykorzystania jej do badań naukowych nad rozpoznawaniem twarzy oraz na potrzeby projektów porównawczych.

IBM użył około 1 mln zdjęć z tej bazy do stworzenia własnego zbioru danych szkoleniowych. Według stacji NBC, która dotarła do tej bazy danych, wszystkie zdjęcia zostały opatrzone przypisami według różnych kryteriów, takich jak wiek, płeć. Wiele z tych zdjęć zawierało również szczegółowe dane dotyczące m.in. koloru skóry, wielkości i kształtu rysów twarzy oraz przyjmowanej pozy na zdjęciu.

Zgoda czy jej brak?

Chociaż każdy z fotografów otrzymał pozwolenie od osób biorących udział w sesji zdjęciowej, zgoda ta jednak nie dotyczyła udziału w projekcie badawczym amerykańskiej firmy.

Czy IBM miało do tego prawo? To pytanie zadaje sobie NBC News, który uważa, że osoby na zdjęciach nigdy nie podpisały umowy, aby ich twarze były wykorzystane do trenowania oprogramowania rozpoznającego twarze.

Żadna z fotografowanych przeze mnie osób nie miała pojęcia, że ich zdjęcia są wykorzystywane w ten sposób – powiedział dyrektor działu PR i fotograf Flickr Greg Peverill-Conti. Ponad 700 zrobionych przez niego zdjęć znalazło się w bazie danych wykorzystanej przez IBM. To wygląda nieco dziwnie, że IBM może używać tych zdjęć bez informowania o tym kogokolwiek – dodał.

IBM stoi na stanowisku, że każda z osób, której zdjęcia zostały wykorzystane do trenowania systemu rozpoznawania twarzy, może zażądać, aby jej zdjęcie zostało usunięte z bazy danych.

Bardzo poważnie traktujemy prywatność osób i dołożyliśmy wszelkich starań, aby przestrzegać zasad prywatności, włączając w to […] zbiór danych Diversity in Faces […] i ograniczając dostęp do niego dla zweryfikowanych naukowców. Każda z osób może wypisać się z tego zbioru danychnapisała firma IBM w oświadczeniu.

IBM od ponad stu lat angażuje się w tworzenie odpowiedzialnych, uczciwych i godnych zaufania technologii i uważa, że kluczowe jest dążenie do uczciwości i dokładności w rozpoznawaniu twarzy – dodano.

Jak sprawdzić czy nasze zdjęcie zostało wykorzystane przez firmę IBM? Stacja NBC News stworzyła narzędzie dzięki, któremu po wpisaniu swojej nazwy użytkownika w serwisie Flickr, możemy sprawdzić, czy nasze zdjęcie znajduje się w ogromnej bazie danych wykorzystanej do trenowania sztucznej inteligencji.

Don’t be creepy

Brytyjska organizacja pozarządowa Privacy International uważa, że IBM niewłaściwie wykorzystało zdjęcia, nie uzyskując uprzednio pełnej i świadomej zgody od osób będących na tych zdjęciach.

Wytyczne serwisu Flickr wyraźnie mówią: “Don’t be creepy” (Nie bądź odrażający – red.). Niestety IBM poszło o krok dalej – zauważają przedstawiciele Privacy International.

Jak podkreślają używanie zdjęć przez IBM stoi w sprzeczności z wyznawanymi przez Flickr zasadami i jest również ogromnym zagrożeniem dla prywatności użytkowników.

Stronnicze algorytmy?

Eksperci od dłuższego czasu ostrzegają, że sztuczna inteligencja może być stronnicza. Badania wykazały, że technologia rozpoznawania twarzy działa zdecydowanie lepiej w przypadku twarzy białych mężczyzn niż w przypadku mniejszości etnicznych.

Opublikowany w zeszłym roku artykuł badaczki MIT Joy Buolamwini wskazuje, że usługa IBM Watson Visual Recognition miała prawie 35% wskaźnik błędu podczas identyfikacji kobiet o ciemniejszym kolorze skóry i mniej niż 1% wskaźnik błędu w przypadku identyfikacji białych mężczyzn.

Liczne badania zwiększają również obawy związane z wykorzystaniem technologii rozpoznawania twarzy przez organy ścigania oraz możliwością użycia sztucznej inteligencji do profilowania rasowego. W Wielkiej Brytanii Metropolitalna Służba Policyjna (Metropolitan Police Service) testuje obecnie system rozpoznawania twarzy, podczas gdy w Chinach firma SenseTime dzięki AI pomaga lokalnym władzom w identyfikacji podejrzanych o popełnienie przestępstwa.

// Ronald Muroń Więcej wpisów

Specjalizuje się w prawnych aspektach technologii informatycznych. Interesuje się stosunkami międzynarodowymi, prawem międzynarodowym oraz tematyką gospodarczą

Dodaj komentarz

Twój adres email nie zostanie opublikowany. Pola, których wypełnienie jest wymagane, są oznaczone symbolem *