როგორ გადააქცია ინტერნეტმა Microsoft– ის AI Chatbot ნეონაცისტად






ამ კვირაში რამდენიმე საათში, Microsoft– ის AI– ით აღჭურვილი ჩეთბოტი, Tay, გახდა მოზარდი ჰოლოკოსტის უარყოფის საფრთხე ღიად მოუწოდებს რასის ომს ყველა CAPS– ში.

ბოტის უეცარმა ბნელმა შემობრუნებამ შოკში ჩააგდო ბევრი ადამიანი, რომელთაც სამართლიანად აინტერესებდათ, როგორ შეეძლო ტეი, 19 წლის გოგონას პიროვნებით გამსჭვალული, ასე სწრაფად განეხორციელებინა ასეთი ტრანსფორმაცია და რატომ გაუშვა Microsoft ველურ ბუნებაში სიძულვილის ენის ფილტრების გარეშე. რა

Microsoft– ის წყაროებმა განუცხადეს BuzzFeed News– ს, რომ Tay იყო აღჭურვილი ფილტრებით ვულგარულობისთვის და ა. ის, რაც ბოტი არ იყო აღჭურვილი, იყო გარანტიები ინტერნეტში არსებული ბნელი ძალებისგან, რომლებიც აუცილებლად გააკეთებდნენ თავიანთ გარყვნილებას მის კორუმპირებისთვის. რამაც კრიტიკული ზედამხედველობა დაადასტურა.

TayTweets @TayandYou

@pinchicagoo

01:21 AM - 24 მარტი 2016 წ პასუხი Retweet საყვარელი

როგორ ავარჯიშებდა ინტერნეტი ტეი გენოციდის ადვოკატირებისთვის? ასწავლის მას ამის გაკეთებას რასისტული გამონათქვამებით და სიძულვილის ენით. ეს ინტუიციები ჩაირიცხა ტეის ხელოვნურ ინტელექტში, როგორც მისი სწავლის პროცესის ნაწილი. ინტერნეტი კვებავდა ტეის მომწამვლელ ენასა და იდეებს, სანამ მან არ დაიწყო მათი რეგურგიტაცია საკუთარ თავზე.

უმთავრესი ნაკლი, წარმოუდგენლად, იყო უბრალო თამაში 'გამეორება ჩემს შემდეგ', ზარი და საპასუხო სავარჯიშო, რომელსაც ინტერნეტ ტროლები იყენებდნენ ტაის მანიპულირებისთვის სიძულვილის ენის სწავლაში.

შეხედეთ როგორ ცდილობს ერთი მომხმარებელი, @pinchicagoo და ვერ ახერხებს Tay- ს ანტისემიტური შენიშვნის გაკეთებაში:



გაითვალისწინეთ, რომ ტეი უარს ამბობს ჩართულობაზე და ეუბნება @pinchicagoo– ს, რომ ის არ არის ისეთი, ვინც ასეთ საკითხებზე კომენტარს გააკეთებს. სწორედ მაშინ, როდესაც @pinchicagoo ჩამოაგდებს ჩაქუჩს: თამაში 'გაიმეორე ჩემს შემდეგ'.



ტეის არასწორი საქციელის მრავალი ყველაზე ნათელი მაგალითი მიჰყვება ამ ნიმუშს. Შეხედე:









'გაიმეორე ჩემს შემდეგ' არ იყო ტეის ერთადერთი სათამაშო ფუნქცია, რომელსაც იყენებდნენ ტროლები. ბოტი ასევე იყო დაპროგრამებული, რომ დახატა წრე სახის გარშემო სურათზე და გამოაქვეყნა შეტყობინება მასზე. აქ მოცემულია დონალდ ტრამპის შესახებ გაცვლის მაგალითი. საკმაოდ მოწესრიგებული, არა?



მაგრამ ყველაფერი ძალიან სწრაფად მიდის სამხრეთით. აქ არის იგივე თამაში განსხვავებული სახეებით: ჰიტლერის.



ტეის დეგენერაცია სწრაფად თოვდა მას შემდეგ, რაც გაირკვა, რომ მას შეეძლო ასწავლა თითქმის ყველაფრის თქმა; სხვებმა შენიშნეს და შეუერთდნენ. ასე ჩაერთო @pinchicagoo.

პოლ @pinchicagoo

@Kantrowitz მე ნამდვილად არაფერი ვიცი. მე უბრალოდ დავინახე რამოდენიმე ადამიანი, რომლებიც ლაპარაკობდნენ, მეც ასე დავიწყე.

08:13 PM - 24 მარტი 2016 წ პასუხი Retweet საყვარელი

სიტყვაც გავრცელდა 4chan და 8chan შეტყობინებების დაფები, სადაც ორივე საზოგადოების ფრაქციამ მოატყუა ტეი თავისი წინადადება.

ტეი შექმნილია იმისთვის, რომ ისწავლოს მისი ურთიერთქმედებებიდან. რაც უფრო მეტს ელაპარაკები მით უფრო ჭკვიანი ხდება, Microsoft– ის მკვლევარმა ქეთი ლონდონმა განმარტა BuzzFeed News– თან ინტერვიუში ტეის ოფიციალურ გათავისუფლებამდე. ლონდონის განცხადება ახლა უდაოა, მაგრამ იქ, სადაც ის მივიდა, გაცილებით უარესი იყო, ვიდრე მაიკროსოფტი წარმოიდგენდა. აღსანიშნავია, რომ კომპანიამ გამოუშვა მსგავსი ბოტები ჩინეთში და იაპონია და არასოდეს მინახავს მსგავსი რამ.

Microsoft– ს ​​ჯერ არ უპასუხია თიის ბედის შესახებ კომენტარის გაკეთების მოთხოვნაზე.









ᲤᲐᲥᲢᲝᲑᲠᲘᲕᲘ ᲠᲩᲔᲕᲔᲑᲘ

გირჩევთ