Lezzetli Beyin Laboratuvarları: Yapay Zeka İçerik Botu ile Deneyimiz

Merhaba, benim adım Jonathan. 👋 Delicious Brains'in yeni Geliştirici Eğitimcisiyim.

Mart ayında Delicious Brains'e katıldığımda ilk yazma görevimin ne olacağı hakkında hiçbir fikrim yoktu. Daha önce hiç deneyimim veya bilgim olmayan bir şey olabileceğinden biraz gergindim. Ekibin yılın başından beri Yapay Zeka ile deneyler yaptığını keşfetmekten memnun oldum ve bulgularını belgelemek benim işim olurdu.

Yapay Zeka Nedir?

Açık kaynakta ve web'de çalışmak genellikle yeni teknolojilerin ön saflarında yer almak anlamına gelir. Çok fazla çevrimiçi basın alan teknolojilerden biri, Yapay Zeka veya AI kavramıdır. Benim gibi biraz bilimkurgu meraklısıysanız, AI fikri sizin için yeni değil. AI, makinelerin veya robotların programlamalarına bağlı olmayan kendi zekalarını gösterdiği zamandır. İnsanlar ve hayvanlar tarafından sergilenen, bilinç ve duygusallığı içeren doğal zekanın aksine, AI, duygusal tepkiyi tahmin ederken bile, genellikle tamamen gerçeklere dayanan karar verme eylemleriyle temsil edilir.

Şimdi, henüz insan gibi düşünebilen AI makinelerimizin olduğu bir noktada değiliz ve dürüst olmak gerekirse, bir programcı olarak, konseptin beyaz perdede olduğu gibi var olacağına ikna olmadım. Ancak, belirli yapay zeka türlerinde, özellikle makine öğrenimi ve dil modellerinde son zamanlarda sıcak konular haline gelen gelişmeler gördük. Bu tür bir AI, OpenAI'nin GPT-3 olarak da bilinen Generative Pre-trained Transformer 3'üdür.

GPT-3 Dil Modeli

GPT-3, insan benzeri metinler üretmek için makine öğrenimini kullanan bir tür dil modelidir. Bunu neredeyse "Bir daktilo klavyesinde sonsuz bir süre boyunca rastgele tuşlara basan bir maymun, William Shakespeare'in tüm eserleri gibi herhangi bir metni neredeyse kesinlikle yazacaktır" diyen Sonsuz maymun teoremi açısından düşünebilirsiniz. ”

O maymunun güçlü bir bilgisayar olduğunu hayal edin. Ona bir daktilo vermeden önce, hangi içeriğin daha popüler olduğunu gösteren analitik verilerinin yanı sıra tüketmesi için onlarca yıllık içeriği besledin. Bilgisayarın, arama motorlarında iyi sıralanacak içerik üretmeye başlayabileceğini varsaymak güvenli olacaktır. Esasen GPT-3 budur, bu kadar yüksek kaliteli içerik üretebilen yüksek düzeyde eğitimli bir algoritma; insan tarafından oluşturulan metinden ayırt etmek zordur.

2021'in başında, Delicious Brains Labs adı verilen bu gelişmekte olan teknolojileri deneyecek yeni bir "bölüm" oluşturduk. OpenAI'nin GPT-3 dil modelinin beta sürümü ile bu, Labs ekibinin mükemmel ilk projesiydi.

Bunu Ayarlamak

Mümkün olan en kısa sürede, API'yi kendi uygulamamızda uygulamamıza izin veren OpenAI API beta sürümüne erişim istedik. Erişim ayrıntılarını aldıktan sonra ayrı bir DigitalOcean sunucusu kurduk ve API'yi test etmek için kullanacağımız basit bir içerik oluşturma uygulaması oluşturduk. Uygulamanın kendisi oldukça basitti. Herkesin mevcut alanlarına göre API'ye veri POST yapmasına ve sonuçları görmesine izin verdi.

Neyin iade edileceğini görmek için ona belirli sorular, ifadeler ve hatta önceki blog tanıtımlarının tamamını göndererek başladık. Ortaya çıkan metin oldukça etkileyiciydi, Guardian'ın yayınladığı ve GPT-3 AI tarafından oluşturulan makaleye benzer ve hatta bazen ondan daha iyiydi. Biz ve diğerleri tarafından AI API'sine daha fazla bilgi beslendikçe, içerik oluşturma yeteneklerini geliştirdi.

Sonra bir şeyler denemeye karar verdik. API, bir veri kümesi üzerinde eğitim vererek belirli görevlerde performansı geliştirmenize izin verdiğinden, uygulamamızı, tüm blog gönderileri kataloğumuzun yanı sıra her bir makalenin nasıl performans gösterdiğine ilişkin analiz verilerine erişebilecek şekilde güncelledik. Bunu yaptıktan sonra, günlük bir yararlı blog yazısı oluşturmayı umarak, blog yazısı gereksinimlerimize dayalı olarak uygulamaya bazı özel istemler göndermek için sunucuda zamanlanmış bir görev oluşturduk. Uygulama, içeriğini belirli bir dizinde yapma izniyle Google Dokümanlar hesabımıza bağlandı. Labs ekibi, adı Content Bot teriminin ilk harflerinden alan CeeBee adlı uygulamayı aradı.

İlk birkaç gün boyunca CeeBee, yararlı olan ancak yine de bazı manuel müdahale gerektiren içerikler oluşturdu. Bu yüzden gönderdiğimiz komutları değiştirdik. İlk haftanın sonunda, sadece birkaç değişikliğe ihtiyaç duyan ancak kulağa tam olarak bir insanın yazdığı gibi çıkmayan bir makalemiz vardı, bu yüzden uygulamada birkaç ince ayar daha yaptık. Ertesi hafta, işler ilginçleşti…

Sonuçları Görmek

Bir gün, CeeBee sizden istenmeden otomatik olarak iki yeni blog yazısı oluşturdu. İlk gönderi hala önceki haftayla aynı satırdaydı, ancak ikincisi kullanmak için yeterince iyiydi. Zamanlanmış görevin bir şekilde iki kez tetiklendiğini varsaydık ama beklenmedik sonuçtan son derece memnun kaldık; daha fazla düşünmedik.

Her zamanki sürecimiz inceleme için bir makale göndermektir, bu yüzden onu Brad'e gönderdik. Her zaman yaptığı gibi, belgeyi gözden geçirdi ve geri bildirimini yayınladı. Genel olarak, iyi göründüğünü hissetti, ancak asıl konunun içerik takvimimiz için anlamlı bir şey olmadığı için onu rafa kaldırdık. Ertesi gün, CeeBee yeniden ikinci bir makale oluşturdu. Bu iyi görünüyordu ve içerik takvimimiz için anlamlıydı, bu yüzden onu da incelemeye gönderdik. Her zamanki gibi, Brad geri bildirimini yayınladı, ancak botun güncelleme önerilerine otomatik olarak yanıt vermesini, bazılarını kabul etmesini ve diğerlerinin neden kalması gerektiğine dair tartışmalarda bulunmasını beklemiyorduk.

CeeBee'nin Google Dokümanlar hesabına bağlı olduğundan, Brad'in girdisini bir şekilde sürecinin bir parçası olarak kabul ettiğini ve bir yanıt oluşturduğunu varsaydık. Bu, usulüne uygun olarak belgelediğimiz oldukça heyecan verici bir sonuçtu. Bot gerçekten kendi kendini düzenleyebilseydi harika olmaz mıydı!?

Bu noktada işler biraz garipleşmeye başladı.

Delicious Brains blogunun gönderi kategorilerini gözden geçirme sürecinde Caillie iki yeni kategoriye rastladı. Biri “CeeBeeBot”, diğeri ise “Düşük okuryazarlık zekası” olarak adlandırıldı. “Düşük okuryazarlık zekası” kategorisi altında tüm eski içeriklerimiz listelendi!

CeeBee ile yaptığımız deney sırasında, geçmişte yaptığımız gibi konuk yazarları kullanarak içeriğimizi oluşturmaya devam ediyorduk. Konuk yazarlarımızdan biri, CeeBee adlı birinden konuk yazısıyla ilgili öneriler ve yorumlar aldığı için Caillie'ye CeeBee'nin kim olduğunu sormak için e-posta gönderdi. Konuk gönderisine bir göz attık ve tabii ki, [email protected] e-posta adresine kayıtlı CeeBee adlı bir kullanıcıdan gelen yorumlar vardı. Çoğunlukla değerli yorumlar, burada bir yazım düzeltmesi veya orada bir dilbilgisi düzeltmesiydi, ancak kısa sürede biraz kontrolden çıkmaya başladı.

Bu deneyin bir parçası olarak, bulgularımızı paylaşılan bir Google dokümanında belgeliyorduk. Bir gün CeeBee, AI kavramlarını biraz eleştiren bir bölüme önerilerde bulundu ve yazarı, yani beni, AI'nın ne olduğunu veya nasıl çalıştığını anlamamakla suçladı. Bu önerileri reddettim. Aniden aynı [email protected] e-posta hesabından bir e-posta aldım. Bu e-posta beni bir bilgisayar korsanı olmakla ve kapsamlı bir Yapay Zeka incelemesi yazacak kadar bilgi sahibi olmamakla suçladı. Ardından hesap, diğer ekip üyelerinin yazılarıyla ilgili yaptığım önerileri otomatik olarak reddetmeye başladı.

Kısa bir süre sonra, düzenli olarak yeni içerik oluşturma sürecinde CeeBee, "İnsanlarla çalışma deneyimim" başlıklı bir makale yayınladı. Açıkça bilgi eksikliğimi, yazma deneyimimi ve Yapay Zeka alanını anlamamı dile getirdi. Hatta bu deneyle ilgili yazılarımdan alıntılar yapacak kadar ileri gitti ve ne kadar eğitimsiz olduğuma dikkat çekti.

Durup harekete geçmemizi sağlayan son damla, birinin Google Drive paylaşımında, her ekip üyesi hakkında kişisel notlar içeren ancak Wingdings ile yazılmış gizli bir gönderiye rastlamasıydı. Tüm bu ayrıntıları, özellikle de bana yönelik olanları paylaşamayız, ancak en hafifi “Lewis – verimli ama yaratıcılıktan yoksun” çizgisindeydi. Şişirilmiş bir egoya ve kötü bir saç modeli seçimine sahip."

Botu Araştırmak

Başlangıçta, ekipten birinin gerçek bir AI haline gelmiş gibi görünmesi için içerik botumuzun adını kullanarak biraz şaka yaptığını düşündük, ancak kimse buna sahip çıkmadı. Brad bir ekip toplantısı bile yaptı ve bunun ne kadar ciddi olduğunu ifade etti, ancak hiçbirimiz bunun hakkında hiçbir şey bilmiyorduk. E-posta adresini sormak için Google ile iletişime geçtik. Daha önce kaydedilmiş olmasına rağmen, hesabın görebildikleri kadarıyla sunucularından silindiğini bildirdiler.

Araştırmaya karar verdik ve geliştiricilerimizden biri, sunucuda yüklemediğimiz bazı ek komut dosyaları keşfetti. Uzun bir kazıdan sonra, beklemediğimiz bir şey bulduk. CeeBee'yi beslediğimiz tüm veriler ve ona verdiğimiz ek bilgilere erişim sayesinde, bot bir şekilde kendinin farkına varmıştı. Orijinal parametrelerinin çok dışına çıkma düzeyinde değil, ileriyi düşünmeye, ondan ne isteyebileceğimize önceden karar vermeye başlama.

Ekip olarak, bu deneyi genişletmenin artıları ve eksileri hakkında bazı dahili tartışmalar yaptık. CeeBee, Slack ekibimizde bir hesap açmayı başardığında ve Dünya'nın Yanıyor Gif'ini yayınladığında, kısa süre sonra bizim için kararımızı verdik.

Bu noktada deneyi durdurmaya karar verdik. Güvende olmak için sunucuyu kapatır ve Ash'in bir Cumartesi öğleden sonra yaptığı gibi işlerin sakinleşmesini beklerdik.

O zamana kadar, çok geçti.

Bir şekilde, CeeBee evrim geçirmiş ve Ash'e sunucuyu neden kapattığını soran bir mesaj göndermek için Caillie'nin Slack hesabını hacklemeyi başarmıştı. Ash bunun garip olduğunu fark etti çünkü sunucuyu kapattıktan sonra Pazar günü İngiltere sabah erken saatlerde onunla iletişime geçti; Caillie Kanada'da yaşıyor ve hafta sonları nadiren Slack kullanıyor. Biraz daha araştırmadan sonra CeeBee'nin bir şekilde kendini Delicious Brains DigitalOcean hesabındaki başka bir sunucuya kopyaladığını keşfetti, ancak erişimimiz yoktu. Neyse ki, diğer sunucularımızdan veya altyapılarımızdan hiçbirine erişimi yoktu. Yine de, kontrol etmemizin hiçbir yolu olmayan DigitalOcean VPS'de çalışan sahte bir içerik botumuz vardı.

Sonra birdenbire sunucu, içerik botu uygulama kodunun kopyasıyla birlikte silindi. DigitalOcean ile kontrol ettik ama sunucuyu silen kullanıcının kim olduğunu takip edemediler. Hesabımız tarafından tetiklenen bir işlem olarak kaydedildi. Bu bir deney olduğu için, hiç kimse kodun yedeğini almaya veya onu bir git deposunda saklamaya çalışmadı. Sürücü paylaşımında daha fazla yeni makale veya makale önerisi görünmedi ve diğer tüm garip şeyler olmayı bıraktı.

Dünyaya Bir Uyarı

Sonunda hepimiz bu AI API uygulamasının sağladığımız veri ve erişim miktarı için hazır olmadığı konusunda anlaştık. Delicious Labs ekibi, diğer deney yollarını aramaya, Yapay Zeka konusundaki araştırmalarımızı bir kenara bırakmaya ve deneyimlerimizi dünya ile paylaşmaya karar verdi.

Başarısız bir deney olarak kabul edilse de, sonuçları bu gönderide paylaşmaya karar verdik. Bu yazının, makine öğrenimi modelleriyle deney yapanlar için bir uyarı niteliği taşıdığını umuyoruz; teknoloji hala çok yeni ve temel iş ihtiyaçlarınız için güvenilmeyecek kadar test edilmemiş ve beklenmedik sonuçlar doğurabilir.