Zobacz profil

Chowaj twarz przed algorytmami - Artur Kurasiński Newsletter

Revue
 
"Timeo Danaos et dona ferentes" czyli "Obawiam się Greków, nawet gdy niosą dary". Sentencja stara ale
 

Newsletter Artura Kurasińskiego

28 listopad · Wydanie #164 · Zobacz online
Opisuję i tłumaczę jak nasz świat zmienia się pod wpływem technologii.

“Timeo Danaos et dona ferentes” czyli “Obawiam się Greków, nawet gdy niosą dary”. Sentencja stara ale jakże żywa. Tak powinniśmy bowiem podchodzić do każdej technologii i wynalazku bo jak pokazuje ostatnia dekada my, ludzie umiemy perfekcyjnie wykorzystać każdą technologię do robienia sobie nawzajem krzywdy.
Miałem niedawno na zaproszenie UPC okazję oceniać startupy w ramach konkursu Think Big. Jednym z nich była firma Quantum CX, która dla banku PKO BP wdrożyła technologię pozwalającą poprzez sensory badać reakcje (a dokładnie czy ktoś się uśmiecha) pracowników banku oraz obsługiwanych przez nich klientów. Celem miało być promowanie uśmiechu za który otrzymywano punkty (mogące być wymienione na środki przeznaczone na cele charytatywne).
Podczas finałowej rundy pomysł oceniłem jako “diabelski” i starałem się przekonać innych członków jury o kompletnej niedorzeczności takiego rozwiązania (a nawet niebezpieczeństwach). Zostałem przegłosowany i projekt wygrał w swojej kategorii.
Minęło trochę czasu i okazało się, że Adam Bodnar (Rzecznik Praw Obywatelskich) wystąpił do Głównego Inspektora Pracy z wnioskiem o zbadanie akcji banku. Jemu też nie podobało się, że maszyna i algorytm mają badać zachowanie pracowników banku i ich klientów. Przy okazji okazało się, że czujniki Quantum CX zostały zamontowane nie tylko w banku ale również w Urzędzie Miasta w Sopocie.
Może teraz już sobie myślisz “po cholerę on się czepia tej firmy i jej technologii?”. Odpowiem tak - to idealny wstęp do dalszego kontrolowania oraz wpływania na zachowania ludzi za pomocą algorytmów. Pal licho, że sztuczny uśmiech jest zły.
Chodzi o to, że cały proces kontrolują algorytmy, które zawierają błędy. I pozwalanie im na ingerowanie w tak delikatne kwestii jak na przykład obsługa klienta jest bardzo mały bezpieczne. Algorytmy nie potrafią rozpoznawać twarzy ludzi o ciemnej skórze. Czarnoskórzy pacjenci mogą mieć też problemy z prawidłową oceną stanu zdrowia.
Zadaniem algorytmów ma być upraszczanie i systematyzowanie rzeczywistości. Przypadki specjalne albo mało powtarzające się są ogromnym problemem z którym maszyny nie potrafią sobie poradzić
W Los Angeles umiano się przyznać do błędu - program PredPol stosowany przez policję do prognozowania występowania przestępstw był uważamy za idealny. Do czasu kiedy w końcu stwierdzono oczywisty fakt, że program opiera się na danych historycznych. Ale na początku wszystko wyglądało w porządku - system przewidywał, że przestępstwa powstaną w biednych dzielnicach i tam wysyłał patrole.
I policjanci byli świadkami wykroczeń i przestępstw. Po krótkim czasie stworzono sprzężenie zwrotne - pojawianie się policjantów powodowało agresję a raporty o bójkach czy kradzieżach potwierdzały konieczność wysyłania patroli w te rejony.
System starał się rozumować logicznie - skoro przewidział, że pojawi się występek (i takowy był raportowany) to wszystko było w porządku? Dlaczego PredPol nie wysyłał patroli do dzielnic bogatych? Bo z jego danych historycznych wynikało jednoznacznie, że tam jest mniej przestępstw.
I koło się zamykało.
Algorytmy wykorzystywane są już także w HR. Co tutaj może pójść źle? Otóż automatyzacja takich procesów może skutkować bezrefleksyjnymi zwolnieniami ludzi, którzy z jakiś powodów nie podobają się algorytmom (Amazon).
To samo może zdarzyć się w procesie zatrudniania - przecież wydajność procesów rekrutacji jest kluczowa dla wielu firm. Skoro można przesłuchać setki osób w tym samym czasie to dlaczego nie powierzyć tego procesu algorytmom (Unilever)?
A jeśli już mamy pracowników i boimy się, że założą związki zawodowe? No cóż - zawsze możemy szpiegować ich (przeglądać ich maile) żeby wyłapywać konwersacje na ten temat (Google).
Albo kiedy okazuje się, że algorytm jest seksistowski - kobiety nie dostaną takiego samego limitu kredytu jak mężczyźni (Apple).
A może wtedy kiedy algorytm będzie wyszukiwał wady genetyczne poprzez skanowanie twarzy noworodków? Jak sądzicie jakie to wywoła emocje wśród rodziców?
Problem z AI jest taki, że to my, ludzie uczymy programujemy je i definiujemy oczekiwania. Bardzo dobrze wyjaśnia to Janelle Shane, która na pozornie śmiesznych przykładach (“stwórz nowe smaki lodów”) pokazuje jak algorytmy stosują swoją logikę. I tworzą potwory.
Bardzo groźnie wyglądają wszelkie próby sprzęgnięcia AI z rozpoznawaniem obrazu (a szczególności ludzkich twarzy). W Chinach dzięki taki rozwiązaniom rząd wyszukuje i wtrąca do obozów karnych przedstawicieli mniejszości ( na przykład Ujgurów) oraz zmusza ich do między innymi aborcji.
Żadna z największych firm technologicznych (GAFA) nie może pozwolić sobie na branie udziału w wyścigu mającego na celu stworzenie własnych rozwiązań. Amazon sprzedaje już takie rozwiązania (kamery z opcją rozpoznawania twarzy) policji.
Facebook przyznał, że pracuje od 2015 roku nad swoim projektem “facial recognition” ale tylko na swoje wewnętrzne potrzeby (ręka w górę kto jeszcze wierzy Zuckerbergowi).
W Hong Kongu trwa obecnie regularna wojna protestujących z policją. Tłum zasłania maskami twarze, używa się laserów do ogłupiania dronów jak i kamer policji, obala słupy z kamerami wyposażonymi w algorytmy do rozpoznawania twarzy. Tak wygląda starcie obywateli z państwem w XXI wieku.
W USA część osób uważa, że kwestie algorytmów a w szczególności tych używanych do rozpoznawania twarzy powinny być uregulowane. Takie głosy pojawiają się też w Europie.
Trzymajmy kciuki za tych, którzy podejmują takie próby. Prawdopodobnie nie ustrzegą nas przed inwazją kamer i algorytmów ale być może odsuną ten proces w czasie.
Po nie jesteśmy w stanie zatrzymać przyszłości. Algorytmy będą decydowały o coraz większej ilości spraw, która nas dotyczą.
Żeby było jasne. Nie obawiam się przyszłości spod znaku “Terminatora”. Stworzenie “świadomych i inteligentnych” robotów jest tak odległe w czasie (patrząc na to na jakim etapie badań jesteśmy), że nikt z nas tego nie doczeka.
Boję się bardziej świata w którym będziemy zależni od algorytmów ale nie będziemy w stanie zrozumieć jak są skonstruowane ani jak działają.
Garbage in garbage out.
Artur Kurasiński

AI JAK WSPARCIE DLA HANDLOWCA (WYWIAD)
Tomasz Wesołowski - Edward.ai
Tomasz Wesołowski - Edward.ai
Ile naprawdę zarabia autor książki? – komentarz do rankingu „Wprost” + wyniki „Finansowego ninja”
Jak powstała największa flota e-carsheringu na świecie
AK74: Jak powstała największa flota e-carsheringu na świecie. #long
Equity crowdfunding ewoluuje... w złą stronę - Bankier.pl
Russia bans sale of gadgets without Russian-made software - BBC News
Lime mogło zarobić w Polsce ok. 40 mln zł - MamStartup
Scientists discover how to 'upload knowledge to your brain' 
ALFA SCHOOL JUŻ 3-4 GRUDNIA!
Masz w głowie masę pomysłów, lecz nie wiesz jak się do tego zabrać i przerodzić je w prosperującą firmę? Już 3 i 4 grudnia odbędą się w Warszawie bezpłatne warsztaty #alfaSCHOOL.
Doświadczeni mentorzy podzielą się z Wami swoją wiedzą na temat: przygotowania budżetu projektu, umowy inwestycyjnej, współpracy z korporacjami, metodologii design thnking, ochrony know how, a także wystąpień publicznych i pitchowania! Liczba miejsc jest ograniczona, dlatego nie warto zwlekać z zapisami!
REKLAMA
REKLAMA
1.2 Billion Records Found Exposed Online in a Single Server  | WIRED
Amazon Finally Reveals Who Makes Its Branded Products
Crypto firm that raised $12.7M with ICO admits it ran out of money, closes doors
RUSZYŁA SPRZEDAŻ BILETÓW NA MTC 2020!
Mobile Trends Awards to nagrody przyznawane firmom, które postawiły wyzwanie statusowi quo i z sukcesem wykorzystały mobilne technologie w swoich projektach.
Już od 9 lat jest to najbardziej prestiżowa nagroda, nazywana Oscarem branży mobilnej w Polsce.
REKLAMA
REKLAMA
Dwa dni porządnej dawki wiedzy z zakresu mobile – konkretne przykłady i case’y z dokładną analizą zysków i strat, abyś mógł wynieść swój biznes na wyższy poziom. W ramach Konferencji odbędzie się gala rozdania nagród Mobile Trends Awards dla najlepszych aplikacji minionego roku oraz niezapomniana impreza networkingowa do białego rana. 
 Przyjdź, spotkaj wyjątkowych ludzi, zainspiruj się i nawiąż nową współpracę biznesową!
Bilety znajdziesz pod adresem www.2020.mobiletrends.pl
WeChat keeps banning Chinese Americans for talking about Hong Kong - The Verge
The California DMV Is Making $50M a Year Selling Drivers’ Personal Information - VICE
Jak pozyskać 519 leadów w 60 dni
Chciałbyś zwiększyć sprzedaż? Zapoznaj się z case study agencji CodeScalpel, jak pozyskać 519 leadów w 60 dni. Przeczytasz w nim, jak agencja przyczyniła się do wzrostu ilości i jakości pozyskanych leadów.
Z case`a dowiesz się:
Jak stworzyć efektywny lejek sprzedażowy w kampanii internetowej;
Ile leadów można uzyskać w kampanii sprzedażowej;
Które źródło generuje więcej leadów i dlaczego;
Jakie dodatkowe korzyści można osiągnąć w kampanii online.
REKLAMA
REKLAMA
Mass. State Police Tested Out Boston Dynamics’ Spot The Robot Dog. Civil Liberties Advocates Want To Know More | WBUR News
Job loss predictions over rising minimum wages haven't come true - Axios
Absolutely humongous data breach exposes more than a billion records
PinHub.io - opiniuj projekty graficzne
Startuje wersja Beta narzędzia służącego do opiniowania projektów graficznych, stron www online i offline oraz filmów na YouTubie. System pozwala pracować w zespole oraz z klientem.
Narzędzie świetnie sprawdzi się w agencji reklamowej, interaktywnej, software housie, w firmie zajmującej się designem, UX/UI.
Oszczędza czas i porządkuje prace. Podział na projekty klientów, wersjonowanie oraz czat w obrębie danego pina sprawiają, że cała praca związana z opiniowaniem projektów nigdy nie była tak prosta. Wersja płatna wystartuje po nowym roku, do tego czasu dla aktywnych użytkowników przewidziany jest darmowy abonament na pół roku ;) 
REKLAMA
REKLAMA
Why electric scooters are illegal in New York and London - The Verge
Uber loses its London license as regulator cites a ‘pattern of failures’ - The Verge
Nie trać czasu na umawianie spotkań
Harmonizely to niezawodne i proste narzędzie do planowania spotkań z klientami i członkami zespołu. Niezależnie od tego, czy uczysz lekcji gry na fortepianie, sprzedajesz nieruchomości, konsultujesz projekty itd., Harmonizely jest narzędziem dla Ciebie.
Możesz połączyć się z różnymi kalendarzami, nie tylko ze standardowym Google. Korzystając z integracji CalDAV, możesz połączyć się z Zoho, Zimbra, FastMail, NextCloud i wieloma innymi. Harmonizely zsynchronizuje się z Twoim ulubionym kalendarzem i zapobiegnie podwójnej rezerwacji spotkań w tym samym terminie. Dodatkowo, dostępna jest polska wersja językowa na stronie do umawiania spotkań.
Czas pożegnać się z pominiętymi spotkaniami i ze stratą czasu na wymianie niepotrzebnych wiadomości e-mail!
REKLAMA
REKLAMA
Amnesty International: Google i Facebook zagrożeniem dla praw człowieka dlaczego, prywatność na Facebooku
Call to probe Boston police tests of 'dog' robots - BBC News
Internet world despairs as non-profit .org sold for $$$$ to private equity firm, price caps axed • The Register
Lightning Network Did Not Have the Positive Year Many Expected – BeInCrypto
Amazon Used An AI to Automatically Fire Low-Productivity Workers
Szanse i zagrożenia: PSD2 w Polsce
Rewolucja czy ewolucja? Jak wprowadzenie dyrektywy PSD2 wpłynie na podmioty finansowe w Polsce? KLIKNIJ I PRZECZYTAJ TUTAJ!
REKLAMA
REKLAMA
Rój dronów oraz sztuczna inteligencja – przyszłość według Skunk Works [ANALIZA] - Defence24
Facebook confirms facial recognition app, says it was only for internal use | VentureBeat
Trump Blames Beijing for Lagging Trade Talks - WSJ
How our home delivery habit reshaped the world | Technology | The Guardian
Apple removes customer reviews from its online store - The Verge
WeWork's Adam Neumann got $1.7 billion. 2,400 employees just got fired.
Trump hosted Zuckerberg for undisclosed dinner at the White House in October
Facebook's Libra launch was 'ridiculously stupid,' blockchain boss says | Currency News | Financial and Business News | Markets Insider
Uber Embraces Videotaping Rides, Raising Privacy Concerns - The New York Times
Konkurs na prawniczego chatbota – wyniki – Fundacja LegalTech Polska
State of European Tech 2019 · State of European Tech 2019
Czech government approves digital tax aimed at internet giants - Reuters
Secretive energy startup backed by Bill Gates achieves solar breakthrough - CNN
Czy podobało Ci się to wydanie newslettera?
Jeśli nie chcesz otrzymywać tych maili, możesz się wypisać tutaj.
Jeśli ktoś przesłał Ci dalej tego maila i spodobał Ci się, możesz zasubskrybować ten newsletter tutaj
Starannie sporządzone przez Artur Kurasiński przy użyciu Revue.