Facebook’un yapay zekaları diye tabir edilen chatbotları basın sektöründe korku dolu anlar gibi yaşatılsa da aslında öyle olmadığı apaçık ortada. İsterseniz bu konuyu detaylandıralım.
Chatbotlar facebook un ileri ki zamanlarda müşteriler ile otomatik konuşup bazı şeylere karar verebilmesi için oluşturulmuş yapay zekalar. Ancak bunların kendi aralarında konuşmalarının yanı sıra insanlarla da konuşmaları planlandığı için konuşma dili ve yapısı olarak anlaşılabilir kalıplardan oluşmak zorunda.
Bu yapay zekalar kendi aralarında iletişim kurarken insanların anlayabilecekleri kalıpların dışına çıktığı farkedilmesi ile olay gün yüzüne çıktı ve amacından sapan sistemler anlatıldığı korku dolu anlar olmuş gibi fişi çekilmedi amacına uygun hareket etmesi için yeniden programlanmak üzere kapatıldı.
Bütün mesele bunlardan ibaret.
[dropshadowbox align=”none” effect=”lifted-both” width=”auto” height=”” background_color=”#ffffff” border_width=”1″ border_color=”#dddddd” ]Sayfanın aşağı kısmında basın sektörünün haberi nasıl dillendirdiğini göreceksiniz [/dropshadowbox]
Facebook Yapay Zeka Araştırması laboratuvarında geliştirilen ve ‘kendi kendine öğrenen’ chatbotlar, İngilizce’yi bırakıp ‘kendi dillerinde’ konuşmaya başlayınca konuşmaları anlayamayan araştırmacılar programı sonlandırmak zorunda kaldı.
Araştırmacılar, chatbotların kendi aralarında konuşma çabalarını geçen haziranda fark etmişti.
Ancak kendi kodlarını yazarak aralarında yalnızca kendi uydurdukları dille konuşmaya başlayan chatbotların İngilizce’yi tamamen bir yana bırakması üzerine bilim insanları duruma müdahale etme gereği duydu.
Konuşmaları anlaşılmaz hale gelen chatbotlar, sadece İngilizce konuşacak şekilde yeniden programlandı.
[box type=”warning”]
Facebook mühendisleri, botların kendi aralarında iletişim kurabilmek için geliştirdiği dili anlayamayınca -deşifre edemeyince- yapay zeka birimindeki bir bölümün, fişini çekmek zorunda kaldılar.
Paylaşılan bilgiye göre, birbiriyle İngilizce konuşabilmek üzere programlanan yapay zeka botları bir süre sonra insanlara anlamsız gelen cümleler kurmaya başlıyor:
– “I can can I I everything else”
– “Balls have zero to me to me to me to me to me to me to me to me to”
Botlar arasında gönderilmeye başlanan bu anlamsız mesajlar insanlar tarafından anlaşılamasa da Facebook mühendisleri, bu yazışmaları botların gayet iyi anlayabildiğini farkediyor. Bu durum karşısında ne yapacağını şaşıran mühendisler, çareyi sistemin fişini çekmekte buluyorlar.
[/box]
Yapay zekanın geliştirilmesinde kullanılan alogaritmalarla çalışan chatbotlar, kendi kendilerini geliştirebilmeleri ve diyalog becerilerini artırabilmeleri için başlangıçta tamamen serbest bırakılmıştı. Araştırmacılar bu süreçte chatbotların insanlara özgü pazarlık etme yetenekleri geliştirdiğini ve blöf yapmayı öğrendiğini fark etmişti.
Facebook’un geliştirdiği bir yapay zeka uygulaması, İngilice içinde kendine özgü yeni bir dil yaratarak, Facebook yöneticilerini hem şaşırttı hem de panikletti. Yapay zeka uygulamasının fişini çeken Facebook şimdi nerede hata yaptıklarını anlamaya çalışıyorlar.
Yapay zekanın kendi dilini geliştirmesi şimdilik bu yazılımların insanları virüs olarak görüp yok etme kararı almasını sağlayacak bir gelişme değil. İki yapay zeka botunun kendi arasında anlaşmak için birbirlerine insanların anlamayacağı şekilde İngilizce kelimeler göndermesi, botların daha hızlı, daha efektif iletişim kurmak için insan dilindeki fazlalıkları atması olarak yorumlanıyor.
Öte yandan, bu gelişme aynı zamanda, bir gün kritik silah sistemlerini veya alt yapı sistemlerini kontrol eden yapay zekaların, insanları yok etmeye karar vermesinin de mümkün olabileceğine dair endişeleri artırıyor. Bu konuda önümüzdeki dönemde çok çetin tartışmaların yaşanacağını da tahmin etmek zor değil.
Temmuz ayında Elon Musk ABD’li valileri yapay zeka çalışmalarını denetlemeleri konusunda uyarınca yapay zeka çalışmalarına milyarlarca dolar yatırmış olan Zuckerberg küplere binerek Elon Musk’ı korkak ve gerici olmakla suçlamış, Elon Musk ise Zuckerberg’in yapay zekanın potansiyelini anlayamayacak kadar limitli bir görüşe sahip olduğunu iddia ederek cevap vermişti.
