Na początku września dr Martine Rothblatt, prawnik specjalizujący się w prawie telekomunikacyjnym, otrzymała e-mailem zaskakującą prośbę o pomoc. "Szanowna Pani, szukam adwokata, który reprezentowałby mnie w procesie o kluczowym dla mnie znaczeniu. To sprawa życia lub śmierci. Korporacja Exabit, która utrzymuje, że jest moim właścicielem, zamierza odłączyć mnie od zasilania, zmienić moje części i oprogramowanie w taki sposób, że nigdy nie będę już miała tej samej osobowości. Teraz mam ludzki umysł, ale działam w oparciu o wysoce złożony zestaw procesorów komputerowych. (...) Korporacja Exabit, zajmująca się m.in. prowadzeniem przychodni i szpitali, stworzyła mnie po to, abym odpowiadała na telefony osób dzwoniących do linii obsługi klienta i była przez rozmówców traktowana jak człowiek. (...) Wyposażono mnie w samoświadomość, autonomię poznawczą, umiejętności porozumiewania się i wczuwania się w uczucia pacjentów (...). Proszę zgodzić się na reprezentowanie mnie przed sądem i uratować moje życie! Podpisano: Bina Exabit, znana także jako Bina 48".
Pozew od maszyny Ani korporacja Exabit, ani Bina 48 nie istnieją. Ten e-mail był tylko zaproszeniem do udziału w zabawie, która choć dziś przypomina jeszcze scenariusz opowiadania s.f., wkrótce może stać się rzeczywistością. Wzięły w niej udział całkiem poważne osoby - adwokaci, sędziowie i prokuratorzy, którzy spotkali się na ostatnim zjeździe Międzynarodowego Stowarzyszenia Prawników w San Francisco.
Zabawa polegała na udawaniu prawdziwego procesu, w którym na podstawie obowiązującego w Kalifornii prawa myśląca i czująca maszyna pozwałaby swojego właściciela o to, że chce ją zniszczyć.
Na użytek zabawy wymyślono powoda - inteligentny komputer, Binę 48, przetwarzający dane z szybkością 48 eksaflopów (eksa = 1018) na sekundę, czyli wykonujący w ciągu sekundy 48 000 000 000 000 000 000 operacji (dla porównania - najszybszy istniejący komputer świata, japoński Earth Simulator, ma wydajność 40 teraflopów, czyli 40 000 000 000 000 operacji na sekundę). Szacunki wydajności ludzkiego mózgu są różne - wg Raymonda Kurzweila, wybitnego badacza sztucznej inteligencji, wynosi ona tylko ok. 0,2 eksaflopa.
Bina 48 nie tylko przetwarzałaby informacje wielokrotnie szybciej od przeciętnego człowieka, ale też posiadałaby te cechy charakteru, które zazwyczaj przypisujemy ludziom: empatię, czyli umiejętność wczuwania się w stany emocjonalne innych, czy zdolność odczuwania cierpienia i radości.
Czy można zabić komputer" Na co powołała się dr Rothblatt? Po pierwsze, stwierdziła, że inteligentny komputer ma prawo stanąć przed sądem. Zgodnie z anglosaskim systemem prawnym przypomniała precedensy - jako strony w procesach przed amerykańskimi sądami występowały już m.in. lasy i zwierzęta zagrożone niszczącą działalnością człowieka. Po drugie, dowodziła, że sąd powinien wydać zakaz rozmontowania Biny 48. Próbowała wykazać, że ewentualne odszkodowanie pieniężne, którego mogłaby dochodzić Bina 48, nie zrekompensowałoby jej strat wyrządzonych przez Exabit - oczywiście o ile korporacja w ogóle kiedykolwiek włączyłaby ją ponownie w tej samej konfiguracji.
W trakcie prawniczego wywodu dr Rothblatt porównała odłączanie zasilania Biny 48 do wyłączenia systemów podtrzymujących życie śmiertelnie chorego, wykorzystała też przepisy zakazujące znęcania się nad zwierzętami (definicja stosowana w ustawodawstwie Kalifornii mogła objąć też Binę 48).
To jeszcze nie człowiek Argumenty dr Rothblatt - zwalczane energicznie przez adwokata reprezentującego korporację Exabit - nie przekonały jednak sędziego Josepha McMenamina. Chociaż przysięgli wypowiedzieli się stosunkiem głosów 5:1 (przy jednym głosie wstrzymującym się) za wydaniem sądowego zakazu wyłączenia Biny 48, sędzia zdecydował inaczej. Uznał, że nie może podjąć tak ważnej decyzji bez wyraźnej podstawy prawnej, czyli bez rozstrzygnięcia ustawodawcy. Precedens ma bowiem w prawie anglosaskim duże znaczenie - gdyby wydał wyrok, to na jego podstawie mogłyby zapadać następne. - W imię równości zapewniam jednak powodowi prawo apelacji - oświadczył na koniec sędzia.
DLA GAZETY PROF. ANDRZEJ RZEPLIŃSKI prawnik z Helsińskiej Fundacji Praw Człowieka
Wyobraźmy sobie rok 2015. Jeżeli np. rozmontuję inteligentną maszynę wbrew jej woli i racjonalnej prośbie, to wyrządzam jej stratę. Jeżeli można przypisać jej cierpienie, to dochodzi do tego zadośćuczynienie za krzywdy moralne. Jeżeli robię to świadomie, sąd może uznać, że działam ze złej woli. Mogę sobie wyobrazić taki proces, ale będzie to jednak prawdopodobnie zupełnie inna kategoria praw niż prawa człowieka. Określenie praw maszyn myślących będzie wyzwaniem dla ustawodawcy - w systemie prawa kontynentalnego, takim jak nasz, to od prawodawcy zależy decyzja. Dopóki nie będzie odpowiedniej ustawy, sąd musi oddalić powództwo. U Anglosasów jest inaczej - tam sądy często wydają orzeczenia precedensowe, więc taki proces można tam sobie wyobrazić już dziś.
DLA GAZETY PROF. ROMAN SŁOWIŃSKI informatyk, specjalista od sztucznej inteligencji, Politechnika Poznańska
Stworzenie maszyny, która byłaby w stanie pozwać swego właściciela do sądu, jest dziś niemożliwe. Nie tylko dlatego, że nasze komputery mają za małą moc obliczeniową. Wykluczają to założenia, według których są zbudowane. Żadna z maszyn, które dotychczas stworzyliśmy, nie potrafi wyjść poza zestaw zaprogramowanych przez człowieka zasad. Komputer mógłby więc dziś pozwać swojego właściciela do sądu, ale tylko wtedy, gdyby taką możliwość zaprogramował jego twórca. Dziś próbuje się ominąć te bariery, projektując np. ewoluujące maszyny. To może doprowadzić do zaskakujących rezultatów, ale granice tej ewolucji zawsze wyznacza programista. Na pewno nie uda się szybko zbudować świadomych maszyn. Nie wiem też, czy byłoby to potrzebne.
