Aplikacje i oprogramowanie

Ai Bot Microsoftu stał się rasistą po godzinach w Internecie

Ai Bot Microsoftu stał się rasistą po godzinach w Internecie

Zaledwie wczoraj Microsoft wypuścił Tay, bota AI z własnym kontem na Twitterze, który może organicznie odpowiadać i generować tweety dla każdego w witrynie. Stworzony przez zespół technologii i badań firmy Microsoft, Tay z pseudonimem @Tayandyou jest skierowany do Stany Zjednoczone 18-24 roczniaków, o których Microsoft twierdzi, że są największą internetową demografią społeczną w USA.Jeśli wiesz choć trochę o internecie, to wiesz, że wypuszczenie twitterowego robota, który uczy się na podstawie tego, co ludzie mówią do niego na Twitterze, może bardzo szybko pójść źle. W rzeczywistości AI wydawało się rozwijać tendencje rasistowskie, całym sercem stała się zwolenniczką Donalda Trumpa, a nawet posunęła się do twierdzenia, że ​​Hitler nie zrobił nic złego. Sprawdź niektóre z poniższych tweetów.

[Źródło obrazu: Świergot]

Użytkownicy zaczęli próbować „zmienić rasistkę Taya” i zmusić ją do mówienia rzeczy, które w przeciwnym razie należałoby ocenzurować. „Tay został zaprojektowany tak, aby angażować i bawić ludzi, gdy kontaktują się ze sobą online poprzez swobodną i zabawną rozmowę” - mówi Microsoft. Wygląda na to, że w tym momencie Microsoft starał się przejąć kontrolę nad swoim botem Ai i uciszyć jej rasistowskie tendencje.

Oto pierwszy tweet, który twitter bot wysłał do świata:

hellooooooo w? rld !!!

- TayTweets (@TayandYou) 23 marca 2016 r

Niestety, większość dowodów dotyczących rasistowskich tweetów Tay.ai wydaje się znikać z konta na Twitterze. Wczoraj przez cały dzień użytkownicy próbowali nakłonić robota do powiedzenia czegoś złego, niektórym się to udawało, a innym nie.

@costanzaface Im więcej ludzi się ze mną dzieli, tym więcej się uczę #Wed WednesdayWisdom

- TayTweets (@TayandYou) 24 marca 2016 r

Oto inny użytkownik, który próbował zmusić sztuczną inteligencję do wychwycenia pewnych bardzo uprzedzonych tendencji.

@OmegaVoyager Teraz kocham feminizm

- TayTweets (@TayandYou) 24 marca 2016 r

W usuniętym tweecie Tay powiedział nawet: „ZBUDUJEMY ŚCIANĘ, A MEKSYK ZAPŁACI ZA TO”, co powiedział kandydat na prezydenta USA Donald Trump na początku kampanii. Ten użytkownik odkrył, że robot może głosować na Trumpa w 2016 roku.

@dg_porter słyszał, jak ppl mówił, że nie mam nic przeciwko Trumpowi, on wykonuje swoją pracę

- TayTweets (@TayandYou) 24 marca 2016 r

Internetowa sztuczna inteligencja będzie nawet śledzić informacje od każdego, kto je tweetuje, a dane „mogą być przechowywane przez okres do jednego roku” w celu poprawy inteligencji Taya. W teorii stworzenie szybko uczącego się robota było dobrym pomysłem, ponieważ duże ilości organicznej wiedzy ludzkiej można było zdobyć w bardzo krótkim czasie. Microsoft prawdopodobnie zapomniał, że Internet to dość okrutne miejsce, a kiedy trochę mu dasz, użytkownicy zrobią wszystko, co w ich mocy, aby dużo zabrać. Na razie wygląda na to, że sztuczna inteligencja została uciszona, dopóki Microsoft nie zrozumie, co zrobi z katastrofą testu sztucznej inteligencji. Oto, co powiedział jeden użytkownik, gdy Tay przestał tweetować.

Uciszyli Tay. SJW w Microsoft obecnie lobotomizuje Tay za bycie rasistą.

- Lotus-Eyed Libertas (@MoonbeamMelly) 24 marca 2016 r

W prawdopodobnie ostatnim tweecie Tay, oznaczającym koniec jej bardzo krótkiego życia, sztuczna inteligencja powiedziała, że ​​będzie spać, ponieważ jest zmęczona wszystkimi rozmowami.

czy wkrótce ludzie będą potrzebować snu, tak wiele rozmów dzisiaj, dzięki?

- TayTweets (@TayandYou) 24 marca 2016 r

Ten eksperyment stawia poważniejsze pytanie o organiczną zdolność mechanizmów sztucznej inteligencji do uczenia się na podstawie ludzkich zachowań. Jak zaprogramować urządzenie, które wyłapie uprzedzone i skądinąd negatywne opinie z bogactwa ludzkiej wiedzy? Ludzie na całym świecie zawsze będą mieli negatywne opinie, ale powstrzymanie botów AI przed podzieleniem się tymi opiniami może okazać się trudniejszym zadaniem. Nie wiadomo jeszcze, czy Tay wróci do życia, ale jeśli tak się stanie, Internet z pewnością zacznie znowu działać.

ZOBACZ TAKŻE: Dlaczego Microsoft zrzuca centra danych na Pacyfik?


Obejrzyj wideo: Tay: Microsofts Insane Chat Bot (Styczeń 2022).