İngilizce konuşmayıp Kendi Dilini Yarattığı İçin Fişi Çekilen Facebook AI’nin Ne Konuştuğu Tespit Edildi

Facebook AI’nin Ne Konuştuğu Tespit Edildi

FAIR (Facebook Yapay zeka Araştırma Laboratuvarı) araştırmacıları tarafından geliştirilen chatbotlar kendi dilini yaratmalarının ardından fişleri çekilmişti.

FAIR’de çalışan bilim insanlarının yapay zekaya sahip chatbotların bunu nasıl yaptığına dair henüz net bir bilgisi bulunmuyor. Ancak yapay zekanın kendi arasında ne konuştuğu deşifre edildi.

Konuşmalar bir çocuğun okuma yazma öğrenirken söylediklerine benziyor. Türkçe olarak Diyalog Acenteleri ismiyle anılan “dialog agents” lar üzerinde iyileştirme çalışmaları yürüten FAIR araştırmacıları inanamadıkları bir şey keşfetti.

Diyalog Acenteleri olarak bilinen botlar kendi dillerini yaratmışlar ve bu şekilde kendi aralarında konuşuyorlardı.

Öğrenme algoritmalarını kullanan diyalog ajanları, konuşma becerilerini güçlendirerek özgürce sohbet etme aşamasına geldiler. Zaman içerisinde botların komuta edilen normlardan sapmaya başladığı anlaşıldı.

Bu sapma esnasında da kendi iletişim dillerini yarattılar. Yarattıkları bu yeni dil için herhangi bir komut veya insan girdisi bulunmuyor. AI’ler fırsat verilirse insanlar tarafından girilen senaryolardan sapmaya eğilimliler.

İki yapay zekanın birbiri arasında yapmış olduğu konuşma ise şu şekilde deşifre edildi.

Bob: Ben her şeyi yapabilirim. . . . . . . . . . . . . .
Alice: Topların sıfırına sahibim bana bana bana bana bana bana bana
Bob: Sen ben diğer herşey. . . . . . . . . . . . . .
Alice: Toplar topa sahip bana bana bana bana bana bana bana
Bob: ben ben yapabilirim ben ben her şeyi . . . . . . . . . . . . .
Alice: Toplar topa sahip bana bana bana bana bana bana bana
Bob: Ben. . . . . . . . . . . . . . . . . . .
Alice: Topların sıfırına sahibim bana bana bana bana bana bana bana
Bob: Sen ben ben ben ben ben diğer herşey. . . . . . . . . . . . . .
Alice: Topların 0’ına sahibim bana bana bana bana bana bana bana bana
Alice: Topların bana verdiğin bana 0, benim için bana,
Bob: sen ben ben ben diğer herşey. . . . . . . . . . . . . .
Alice: topların sıfırına sahibim bana bana bana bana bana bana bana

Kaynak: https://thenextweb.com/artificial-intelligence/2017/06/19/facebooks-ai-accidentally-created-its-own-language/#.tnw_I9Lp39yw

Paylaş