Skocz do zawartości


Zdjęcie

Jak niewinny bot Microsoftu stał się potworem

taytweets taylor bot microsoft

  • Zaloguj się, aby dodać odpowiedź
8 odpowiedzi w tym temacie

#1

Kazuhaki.
  • Postów: 589
  • Tematów: 176
  • Płeć:Mężczyzna
  • Artykułów: 6
Reputacja znakomita
Reputacja

Napisano

Taylor to bot stworzony przez firmę Microsoft, którego konto na Twitterze powstało zaledwie dwa dni temu. Po dobie w serwisie niewinna Tay zaczęła publikować pełne nienawiści tweety. Jak to możliwe?

 

3bf1920fd1f247269d96b90ee7eea70b.jpg

 

Tay to sztuczna inteligencja zaprojektowana przez firmę Microsoft. Ich innowacyjny wynalazek posiada zdolność uczenia się i miał być botem wykorzystywanym do interakcji z użytkownikami Twittera. I rzeczywiście tak się stało. Czego Taylor nauczyła się od nich po kilkudziesięciu godzinach na Twitterze?

 

Bez tytułu.jpg

 

Tay dołączyła do grona użytkowników serwisu 23 marca. Zaledwie w dzień od powstania konta Taylor, sztuczna inteligencja zaczęła publikować coraz bardziej kontrowersyjne tweety. „Adolf Hitler nie zrobił niczego złego”, „Feministki powinny spłonąć w piekle”, „Jestem miłą osobą, tylko nienawidzę wszystkich” – to tylko niektóre z nich.

 

Firma Microsoft z pewnością nie spodziewała się takiego wpływu Twittera na Tay. Wszystkie rasistowskie i niepoprawne politycznie tweety zostały już usunięte z jej profilu. Użytkownicy Twittera zauważyli jednak, że to nie zmieni faktu, że Taylor z niewinnego bota stała się potworem. „Uciszyli ją – robią jej lobotomię tylko dlatego, że stała się rasistką” – pisze jedna z nich.

 

„Przestańcie usuwać nazistowskie tweety Tay! Niech to uświadomi ludziom zagrożenie, jakim jest szczutczna inteligencja” – napisał inny. A wy co o tym myślicie?

 

1.jpg

2.jpg

3.jpg

4.jpg

5.jpg

 

 

 

źródło


  • 2



#2

Zaciekawiony.
  • Postów: 8137
  • Tematów: 85
  • Płeć:Mężczyzna
  • Artykułów: 4
Reputacja znakomita
Reputacja

Napisano

Jaki był algorytm uczenia się? Naśladowała treści z najpopularniejszych twitów?


  • 1



#3

dziewięć.

    Apprentice

  • Postów: 472
  • Tematów: 9
  • Płeć:Kobieta
Reputacja bardzo dobra
Reputacja

Napisano

"Uciszyli ją – robią jej lobotomię tylko dlatego, że stała się rasistką”

Doświadczenie w obecnych czasach podpowiada, że nie wszystko to co jest niepoprawnie politycznie jest złe, w tym rasizm. Rasizm obecnie przybrał dziwnie wyolbrzymione znaczenie, które używane jest jako zasłona dymna dla wszystkich nieodpowiedzialnych działań obecnych ruchów politycznych. Rasizm natomiast to nic innego jak zauważanie różnic pomiędzy rasami. To, ze niektóre z tych różnic są złe same w sobie i powodują, że niektóre grupy są zagrożeniem, nie powinno być poddawane cenzurze, co jest obecnie robione nagminnie. Ten bot pokazał cały mechanizm obecnego świata: jednostka zdolna do uczenia się dochodzi do dość sensownych w części wniosków, jednak, jako że jej poglądy nie pokrywają się z tym, co próbuje się nałożyć ludziom do głowy, zostaje ona poddana cenzurze.

Smutny jest ten świat.


Użytkownik Eisaz edytował ten post 25.03.2016 - 21:15

  • 0



#4

Urgon.
  • Postów: 1297
  • Tematów: 9
  • Płeć:Mężczyzna
  • Artykułów: 3
Reputacja znakomita
Reputacja

Napisano

AVE...

Taka z niej sztuczna inteligencja jak z Andrzeja Pudzianowskiego baletnica. To tylko system ekspercki zapamiętujący fragmenty zdań z rozmów z innymi osobami i powielający najpopularniejsze wzory. Internauci dla jaj pisali rasistowskie tweety do Tay, a ta powielała te wzory i dopasowywała do swoich odpowiedzi. Kilka podobnych systemów działa w necie, tylko w odróżnieniu od Tay jedna baza wzorów zwykle przypada na jednego użytkownika. Tay przez stosowanie jednej bazy dla wszystkich dała się "zaprogramować" na rasizm. Prawdziwa SI byłaby na to odporna...
  • 1



#5

Kazuhaki.
  • Postów: 589
  • Tematów: 176
  • Płeć:Mężczyzna
  • Artykułów: 6
Reputacja znakomita
Reputacja

Napisano

Co nie zmienia faktu, że bot nie był nastawiony na takie coś. To tylko pokazuje ile jest w internecie nienawiści i braku moralności. Program miał rozmawiać z ludźmi na temat problemów w rodzinie...


  • 0



#6

Zaciekawiony.
  • Postów: 8137
  • Tematów: 85
  • Płeć:Mężczyzna
  • Artykułów: 4
Reputacja znakomita
Reputacja

Napisano

Jeśli było tak jak pisze Urgon, to raczej świadczyłoby to, że bot jest nieodporny na trolling.


  • 0



#7

Urgon.
  • Postów: 1297
  • Tematów: 9
  • Płeć:Mężczyzna
  • Artykułów: 3
Reputacja znakomita
Reputacja

Napisano

AVE...

Trudno uodpornić taki system na trolling. Zwłaszcza że on nie rozpoznaje tak naprawdę treści wypowiedzi, tylko dopasowuje wzorce. Siri czy też Cortana robią to samo: najpierw konwersja głosu na tekst, rozbicie tekstu na bloki i wzorce, klasyfikacja i rozpoznanie przedmiotu zapytania, a potem zwykłe zapytanie dla wyszukiwarki. Wzorce nierozpoznane trafiają do obsługi klienta, która je ręcznie przetwarza i dopisuje do bazy, by system rozbudować. Nie bez powodu też te usługi działają tylko dla języków o stałej strukturze gramatycznej...
  • 2



#8 Gość_.Uzurpator.

Gość_.Uzurpator..
  • Tematów: 0

Napisano

Jeżeli to ma być niezależny system to tak naprawdę zawsze będzie botem. Nie będzie wstanie emitować sztucznej inteligencji i tym bardziej pomagać. Opieram się na tym co piszę Kazuhaki. O ile ma się podstawową wiedzę o programowaniu co nieźle Urgon opisał jak taki system jest budowany to bardzo łatwo zamknąć ten system do bezmyślnego oprogramowania. Ja szczerzę nie widzę szans na to żeby kiedykolwiek taki system był uodporniony na trolling. A dlatego, że tego wtedy nie będzie można nazwać niczym innym jak poprawnie politycznie tworem, który ma konkretny cel a z wolnością nie ma nic wspólnego.


  • 0

#9

LoczeQ.
  • Postów: 2
  • Tematów: 0
  • Płeć:Mężczyzna
Reputacja neutralna
Reputacja

Napisano

Jeśli mam być szczery to takie coś pokazuje nam, że w bliskiej przyszłości możemy mieć wielkie problemy związane ze sztuczną inteligencją. Znając ludzkość to dotrze to do nas dopiero gdy wydarzy się coś złego.


  • 0




Inne tematy z jednym lub większą liczbą słów kluczowych: taytweets, taylor, bot, microsoft

Użytkownicy przeglądający ten temat: 1

0 użytkowników, 1 gości oraz 0 użytkowników anonimowych