İlk ChatGPT deneyimimiz, 2022’nin üzerinden tam 4 sene geçmiş. Bir yazılımcı olarak bu süreç içerisinde neler yaşıyorum? Nasıl hissediyorum? %100 eminim ki, bütün yazılımcılar iş akışlarının bir yerinde yapay zeka kullanıyorlar. En kötü ihtimalle tab yaparak tamamlama amacıyla kullanıyorsunuzdur.

Tabii ki bir kere bu zehri alan, bir tab’dan çok daha fazlasını yapıyor. Çünkü gerçekten çok kolaylaştırıyor süreçleri. Bütün bu süreçlerin kolaylaşması, yazılımcılık alanını kökünden değiştirdiği gibi aynı zamanda hem insanlar, hem şirketler tarafından yanlış da anlaşılarak, kavram kargaşalarına sebep oldu. Yapay zeka araçları o kadar güzel yapmaya başladılar ki bu işi artık normal düz syntax yazan kalmadı çevremde benim. Herkes bu araçları kullanıyor kodları yazarken.

Hiç yazılım, kodlama bilgisi olmayan birisi bile bir şeyler yapabiliyor. Bu da yeni bir çağın başlangıcı. Öte yandan, aslında kullandığımız elektronik aletlere daha iyi hükmedebilmemizi sağlayan araçlar.

Yazılımcılar zaten işlerin birçoğunu bu araçlara yaptırıyor fakat yazılımcının kullanımı ile son kullanıcının kullanımı arasında ciddi farklar var. Ana problem, insanların bu şeyin tam olarak ne olduğunu bilmemesi. Büyük pazarlama kampanyalarının da etkisiyle birlikte bir yapay zeka çılgınlığı yaratıldı. Herkes de bu trene atladı. Bu sadece bir FOMO’dan daha fazlası, çünkü ortaya bir iş çıkıyor.

Ben bu konuyu farklı yönleriyle ele almak istiyorum.

Yazılıma etkisi

Öncelikle ben yazılımcıların işsiz kalacağını düşünenlerden değilim. Bununla alakalı hem kendi tecrübelerim var hem de geçerli sebep sayacağım bazı çalışmalar var.

Yazılımcıları işsiz bırakacağı fikirlerinin gelişimi hiç de zor değil. Sonuçta LLM’in en iyi yaptığı şey kod yazmak, bir şeyleri özetlemek. Yapay zekanın üç aşağı beş yukarı nasıl çalıştığını biliyosranız, makine öğrenmesi konseptinin burada olduğunu da biliyorsunuzdur. Yazılmış kodları eğitim verisi olarak kullandığınız zaman, bu şeyin kod yazabilmesi mümkün oluyor elbette. Çoğu insansa bunun gerçekten bir bilinç olduğuna inanmış halde. Bilinç, fiziksel dünyayı algılamak gibi kavramları tam olarak bilmeyen kişilerden sıkça duyuyoruz.

500 milyar dolar para harcanmış olan sektörün CEO’ları da her yerde “Bu işleri artık tamamen AI yapacak” diye konuşuyorlar. Sinemada bir laf vardır, “reklamlar bittikten sonra, filmin logosu giriyor ya, o andan itibaren her şey kurgudur” diye. Hani yazıyorlar ya “gerçek olaydır!” falan diye, orası da kurguya dahil yani. O işin pazarlama kısmı. Aynı felsefeyi benimsiyorlar. Bunlar hep işin pazarlama kısmı. AI şu anda çılgınca para yakıyor ve bunun karşılığında ürettiği bir değer yok.

Bugüne kadarki her devrim, yeni işler yarattı. Kendinden daha büyük şeylere yol açtı. Yapay zeka iste teknoloji alanında bir devrim oldu ancak yeni işler yaratmadı. Tam tersine, şirketler daha çok AI kullanmak için çalışanlarını işten çıkarmaya başladılar. Yani çalışanların yaptıkları işleri AI tam olarak yapmıyor. Yapılan işten çıkarmaların temelde 2 sebebi var:

1. Covid dönemi kontrolsüz büyüme.
2. Daha çok AI yatırımı yapmak için çalışanlardan kes.

Ana sebepler bunlar. Twitter eski CEO’su Jack Dorsey zaten geçen ay 4000 kişiyi işten çıkarmıştı, yeni şirketi Blocks’ta. Ama Jack zaten 100 kişiyle yapılacak işi 1000 kişiyle yapmasıyla bilinen bir adam olduğundan, yatırımcılarına da “abi biz AI kullanıyoruz ondan ya kral” diye yağladı ortalığı.

Yağlama mesajına buradan ulaşabilirsiniz.

Hatta bak bu tweet’i bulmak için Google araması yapıyordum, ne göreyim? Dün demiş ki “AI bütün orta düzey yöneticilerin yerine geçmeli”. Sanırım kendi şirketinde böyle yaptı. Aynı şekilde bu sabah Oracle, 30.000 çalışanını bir e-posta ile işten çıkardı. Türk yazılımcılar da çevresindeki birçok kişinin işten çıkarıldığını söylüyorlar. Bu şirketlerden en cesuru, Amazon’du. AI kullanımı zaten bilinen bir gerçek, yani herkes kullanıyor demiştik. Amazon bunu bir kademe daha öteye götürüp, artık işleti neredeyse komple AI’a bırakma noktasına gelmiş. Son zamanlarda yaşanan outageları da bununla ilişkilendirmişler.

Peki nasıl olmuş? Çok basit, code review süreçleri tamamen patladığı için. Bir yazılımcı AI ile kod yazıyor, etkileşimi AI ile yapıyor. Koda bakmak yerine çıktıları AI’a soruyor. Modelin ona yalan söylemeyeceğinden emin şekilde koda yeterli özeni göstermiyor. Aslında gösteremiyor.

Zaten sürekli kod okuyacak ve kodla haşır neşir olacaksan, AI ile kod yazdırmanın da pek bir anlamı kalmıyor o noktada. Kodu da AI ile yazdırdıktan sonra artık AI’ın yazdığı kodun sonrasını okumak çok zorlaşıyor. AI’ın yazdığı kodları doğru düzgün review edemiyorlar. Benzer şekilde production veritabanını uçuran bir kişi de var. Fazla güvendiği için. Yani insan gözetiminde dahi hatalar yapabildiği oluyor.

Gel gelelim çalışma mantığı gereği, bu hatalar hiçbir zaman tamamen yapılamaz olmayacak. Halüsinasyon hiçbir zaman tamamen engellenemeyecek. Bunun getirdiği bir bağımlılık problemi de var. Sanırım etkisini en güçlü kod yazmakta görüyoruz ama aynı şekilde, LLM araçlarını sürekli kullanan kişilerde bilişsel aktivitelerde düşüş oluyor. Buna alışan yazılımcılar artık bu olmadan kod yazmıyorlar, yazmaya üşeniyorlar. Yeni mezun yazılımcılar ise tamamen LLM’leri kullanarak çalışıyorlar ve kodun tam olarak nasıl çalıştığını bile öğrenmiyorlar (burası tehlike).

Yazılım nasıl değişti?

Artık syntax bilmenin bir öneminin kalmadığı yerdeyiz. Eğer elinizde iyi bir LLM aracı varsa ve yazılım mimarisini design patternları vs. biliyorsanız, cloud sistemler nasıl çalışır ve nasıl ayakta tutulur biliyorsanız, sizin için endişelenecek bir şey yok.

Bu dönemin geçici olduğunu düşünüyorum. Evet çok sayıda işten çıkarma yapıldı fakat bu duracak. Pazardaki yazılımcı enflasyonu da böylece azalacak.

Şu anda kod yazarken artık konseptleri biliyorsanız, bunları uygulamaya devam ediyorsunuz sadece. Geriye kalan tek şey, kullandığınız AI aracının bu konseptleri ne kadar iyi uyguladığı ve takip ettiği, görevleri ne kadar iyi anlayabildiği. Günün sonunda tamamlandı tanımı ne olmalı sizin için? Araca da bunu söylemeniz gerekiyor. Ancak AI araçlarının yalan söyleyebildiklerini ve dalkavukluk problemi olduğunu bildiğimizden ötürü, bu tarafta dikkatli olmakta fayda var.

Aynı şekilde, güvenlik tarafında da bilgi sahibi olmanız gerekiyor. O kadar basit noktalardan bir sürü iş patlıyor ki… Şu anda hype’a atlayıp hesap büyüten, hikaye yazan çok fazla sayıda sosyal medya hesabı sağda solda mantar gibi türedi.

Mesela şu hikayeye inananlar için elimde satılık köprü var. Şöyle diyeyim, bu tweet bile ChatGPT’ye yazdırılmış. Bu paylaşımı yapan mı daha gerizekalı yoksa inanan mı? Onu da artık halk oylaması ile kararlaştırırız.

Beyaz yaka etkisi

Konuya direkt kitabın ortasından girerek şunu diyeceğim, beyaz yakalıların birçoğu aslında çalışmıyor, yatıyor.

Çocukluğum mavi yaka işlerde çıraklık yaparak, sağda solda çalışarak geçti ve 15 senedir de beyaz yakalı olarak çalışıyorum sektörde. Benim tecrübe ettiğim, birçok şirketin beyaz yakalı işçileri vakitlerinin çok büyük bir kısmını yatarak geçiriyorlar. Özellikle insan kaynakları, pazarlama, müşteri ilişkileri, halkla ilişkiler gibi departmanlarda verimsizlik epey yüksek. Bunlar en bilinen, genel geçer departmanlar. Bir de bir sürü gereksiz uydurma departman var.

Neymiş efendim? Geliştiriciler ile bilmemne iş birimleri arasındaki koordinasyonu sağlıyormuş da çok önemliymiş. Bir de İngilizce havalı bir titr alırlar kendilerine, ooh bitti gitti. Sabahtan akşama kadar iş yapıyormuş gibi görünürler. Aslında yaptıkları tek iş dosya alıp vermek ve aslında aradan çekilse çok daha basit ilerleyecek süreçleri çevik hale getirdiğini iddia ederek daha da zorlaştırmak. Çünkü öyle olması gerektiğine inanıyor.

Bu noktada yapay zekanın devreye girmesi kaçınılmaz olacaktır. Bazı işlerin koordinasyonunu artık çalışanlar yapay zekadan yardım alarak halledecekler. Dürüst olalım, bu insanlar aslında sekreterlik yapıyorlar. İşte ayda 1-2 sunum yaptırıyorsun, havalı da bir titr veriyorsun kendini bir şey sanıyor ama işin niteliği sekreterlik. Getir götür. Gerçekten bir organizasyon veya süreç iyileştirme falan yok ortada.

Bu görev kritik olmadığından ve bilişsel aktivite, analitik düşünce gerektirmediğinden buradaki insan ihtiyacını minimum seviyeye indirmesini bekleriz. Benzer şekilde, bazı büyük alışveriş sitelerinde sadece ürünlerin kategorilerinin doğruluğu üzerine çalışan bazı işler var. AI bunu da otomatize edebilecek bir seviyede.

Eğer bu tarz bir işiniz varsa, gelecek 5 seneye kendinizi işsiz sayabilirsiniz. Açıkçası bu durumdan rahatsız olmuyorum çünkü zaten var olan süreçleri daha da karmaşık hale getiriyordu birçoğunuz. Artık sadece işi bilenler kalabilir bu gidişatta.

İnternet verisi üzerindeki etkisi

Ölü internet teorisi’ni duydunuz mu? Bu teori kabaca, internetteki trafiğin çoğunun gerçek insanlar tarafından değil de, robot orduları tarafından üretileceğini söyleyen bir teori.

Nitekim gerçek. Bugün geldiğimiz noktada internette üretilen içeriğin birçoğu şu anda AI tarafından üretilmiş ve seslendirilmiş. Başta veri setlerinden bahsetmiştim, AI veri setleri özgün veriye dayalıdır. Makinelerin ürettiği veriye ise “sentetik veri” adını veriyoruz. Sentetik veri ile de AI eğittiğiniz zaman, beklediğiniz kaliteyi alamıyorsunuz. Zaten son zamanlarda bu yüzden daha büyük modeller geliştirmek yerine context büyüklüğü, ürünleştirme ve finetuning üzerine geliştirme yapıyorlar. Çünkü şu andaki modeller zaten ulaşılabilecek bütün veri ile eğitimlerini tamamladılar.

Eğer sentetik veriyi, işe yarar bir veri haline getirmeyi başaramazsak da, yakın gelecekte kaliteli veri bulmak bile epey zorlaşacak. Hatta bunun için bazı AI şirketleri şimdiden gerçek insanlara para ödemeye başladı bile. AI araçlar kullanılarak bir sürü içerik üretilebilir bunlar doğru ancak üretilen şey bir ürün olmadığında, özgünlüğünü yitiriyor. Tamam belki kolay bir grafik tasarım yaptırabiliyorsunuz ancak sanat icra etmesini beklemek biraz aptallık.

AI, mükemmel bir çizer olabilir ancak bir sanatçı olamaz. Örneğin bir karikatür çizeri, AI kullanarak sanatına devam edebilir ancak bir ressam için yeni bir konsept yaratmadığı sürece bu çok zor olacaktır.

Bugün Youtube’a girdiğimde bile bir sürü AI ile yapılmış video önüme düşüyor. Bunlardan çok ama çok azı gerçekten izlenebilir şeyler. Fakat aldığı beğeni sayısına bakıyorum, çok yüksek rakamlarda. Tam da buna karşı(!) Youtube, geçtiğimiz günlerde dedi ki “bundan sonra kullanıcılar bir videonun AI olup olmadığını işaretleyebilecek”. Bilmeyenler, ileride daha az AI içerikli video göreceğini umarak sevindi tabii bu habere ama olay size söylenenden daha korkunç seviyede. Youtube bu verileri, AI videolarının ne kadar gerçekçi olup olmadığını ölçmek için kullanacak. Yani supervised learning yaptıracak size.

Silicon Valley izleyenler bilir, Jian Yang’in “hot dog & not hot dog” uygulamasında internetten saatlerce fotoğraf ayıklayıp, AI modelini eğitiyorlardı. İşte bunun “kickstarter” hali bu yaptıkları da.

Siz videoları izleyeceksiniz, bu AI bu değil diyeceksiniz, Youtube oradan muhteşem bir feedback verisi çıkartacak ve bunu modellerine öğretecekler. Bir süre sonra AI mı değil mi aradaki farkı anlayamadığınız bir şekilde videolar üretecek modeller geliştirecekler.

Bunun da zararlarını saymakla bitiremem sanırım. Aklınıza gelebilecek her senaryo gerçek olabilir bu durumda. Buna karşın, videoların otantikliğini, AI mı değil mi? bunu kanıtlayacak bazı girişimler de çok para kazanacak. Alın size startup fikri.

Aynı şekilde bugün Instagram’a yüklediğiniz tüm fotoğraflar da AI eğitmek için kullanılıyor. Yakın zamanda farklı kullanıcı sözleşmeleri ile ortaya çıkabilirler.

Ekonomik etkisi

Bu araçların yarattığı bir iş yok. Bu araçlarla yapılan ve ürün haline gelen sanırım birkaç tane projenin dışında başka bir şey yok. Prototipleme dışından bahsediyorum. Şu ana kadar toplam harcanan para 500 milyar dolar’ı geçmiş vaziyette ve bu para sadece bir avuç insanın cebine giriyor. Zaten yazının ilk kısımlarında yeni işler yaratmadıklarını söylemiştim.

Fakat bu para nasıl dönüyor? Çok basitçe anlatayım:

1. NVIDIA, OpenAI’a yatırım yapıyor. 100 milyar dolar.
2. OpenAI bu parayla AWS’den kaynak siparişleri geçiyor.
3. AWS, OpenAI’ın isteğine karşılık vermek için NVIDIA’dan GPU satın alıyor.

Yani Nvidia’nın parası dönüp dolaşıp yine cebine giriyor. Benzer şekilde büyük bir çember içerisinde bütün şirketler sağ cebinden alıp sol cebine koyuyor parayı.

Sadece Google, kendi donanımını kullandığı için bu monopolinin içerisinde değil.

Peki ne yapalım?

Şu anda yaptığınız işi daha iyi anlamaktan başka bir çareniz yok. Konseptleri derinlemesine öğreneceksiniz ve AI araçlarını etkili kullanacaksınız.

Benim görüşüm, AI’ın gerçek işleri değil de, angarya işleri yok edeceği yönünde.