Yapay zekâ şirketlerinin “etik badana”larına kanmayın

Temmuz 2020’deki Büyük Teknoloji antitröst duruşmalarında, Maryland Kongre Üyesi Jamie Raskin, Amazon, Apple, Facebook ve Google CEO’larına şu soruyu sormuştu: “Şirketleriniz kamu yararını gözeten bir şirket (benefit corporation) yapısına sahip mi ve bunu düşünmeyi hiç değerlendirdiniz mi?” Sessizlikle karşılanan bu sorunun ardından Raskin, “Tamam, anladığım kadarıyla cevap hayır,” diyerek konuyu kapatmıştı.

O zamandan bu yana çok şey değişti ve kamu yararını gözeten şirket yapısı, önde gelen yapay zekâ (AI) şirketleri arasında popüler bir konu haline geldi. Yasal olarak hissedarlara kâr sağlama önceliği taşıyan yasal yapılara sahip geleneksel şirketlerin aksine bu yeni şirket türü, hissedar çıkarlarının yanı sıra daha geniş toplumsal faydaları da göz önünde bulundurma taahhüdünde bulunuyor.[1]

AI şirketlerinin yasal belgelerinde bu yapı, yapay zekânın toplumsal ve çevresel risklerin ile AI teknolojisinin muazzam büyüme potansiyelinin yarattığı ekonomik getriler arasında bir denge kurabilmek için önemli bir mekanizma olarak sunuluyor. Örneğin, Elon Musk’ın Nevada’da resmi olarak kamu yararını gözeten bir şirket statüsünde kurduğu xAI’ın amacı “topluma ve çevreye toplamda önemli bir olumlu etki yaratmak” olarak tanımlandı.  

Başka bir önde gelen AI şirketi olan Anthropic, Delaware’de, “ileri düzey AI’nın uzun vadeli insanlık yararına, sorumlu bir şekilde geliştirilmesi ve sürdürülmesi” amacına sahip bir kamu yararını gözeten şirket olarak kuruldu. Yakın zamanda rekor seviyede bir yatırım turunu kapatan ve 157 milyar dolar değerlemeye ulaşan OpenAI’nin de kamu yararını gözeten bir şirket olarak yeniden yapılanmayı planladığı bildiriliyor.

Kamu yararını gözeten şirket ifadesi kulağa olumlu geliyor, tıpkı AI firmalarının asil açıklamaları gibi. Ancak bu yapılar, söylenen amaçların gerektirdiği toplumsal ve çevresel önlemleri gerçekten sağlayacak mı? Yoksa şirketlerin kötü davranışlarını gizlemek ve daha sıkı devlet denetiminden kaçınmak için kullanılan bir “etik yıkama” örneği mi olacak?

Bir yandan, yapay zekâ geliştikçe toplumsal koruma mekanizmalarını düşünmek gerektiği açık. Güvenlik ve etik kaygıların yanı sıra, bu teknoloji için gereken enerji ve su miktarının çevresel etkileri de büyük. Son yapılan bir hesaplamaya göre, yapay zekâ kullanılarak yazılan 100 kelimelik bir e-posta, bir şişe sudan biraz daha fazlasını ve 14 LED ampulü yaklaşıl bir saat çalıştırmaya eşdeğer elektrik gerektiriyor.

Bugünün büyük yapay zekâ platformlarında yapılan milyonlarca günlük arama ile AI, teknoloji şirketlerinin çevresel taahhütlerini rayından çıkarıyor. Örneğin, AI alanında önemli bir oyuncu olan Google, 2030’a kadar net sıfır olma taahhüdünde bulunmuştu. Ancak şirket yakın zamanda, geçtiğimiz beş yıl içinde karbon emisyonlarının %48 arttığını gösteren bir rapor yayınladı. Ayrıca, 2023’te tükettiği suyun sadece %18’ini geri kazandığını ve 2030 hedefi olan %120’nin çok gerisinde kaldığını bildirdi. Microsoft da 2030 yılına kadar net sıfır olma sözü vermişti, ancak karbon emisyonlarının son üç yılda %30 arttığını açıkladı. Her iki şirket de ileri gelen pek çok teknoloji şirketi gibi, çevresel hedeflerine ulaşamamaktan büyük ölçüde AI’yı sorumlu tuttu.

Kamu yararını gözeten şirket yapısı, mevcut şirket yapılarına göre bir dizi avantaj sağlıyor. Mevcut şirket yapıları, yöneticilerin kısa vadeli kârları önceliklendirmesini yasal olarak gerektiriyor. Şirket yönetimini kamu yararıyla uyumlulaştırmak ise sadece uzun vadeli karar vermeyi desteklemekle kalmıyor, daha geniş bir toplumsal odaklanma için de yasal bir dayanak sağlıyor. Ayrıca, bu şirketler belirledikleri amaç doğrultusunda hesap verebilir ve şeffaf olmakla da yükümlü. Bu da kamuoyunun ve yatırımcıların, bu doğrultuda atılan adımları daha iyi anlamasını mümkün kılıyor. Patagonia, Ben & Jerry’s ve Warby Parker gibi sürdürülebilirlik uygulamalarıyla tanınan birçok işletme kamu yararını gözeten şirket haline geldi. (Bu yasal yapı, sosyal ve çevresel performansı için B Lab adlı kâr amacı gütmeyen kuruluş tarafından sertifikalandırılan B Corp’lar ile karıştırılmamalıdır).[2]

Ancak OpenAI’nin kamu yararını gözeten bir şirket yapısına geçmeden önce büyük yatırımlar alması, reform yapma amacıyla gönüllü olarak benimsenen yönetişim hükümlerinin bazı dezavantajlarına işaret ediyor. Örneğin, ileri gelen yatırımcı Thrive Capital ve diğer yatırımcılar, Open AI’nin kurumsal amacının ne olduğu ve bu amacın nasıl gerçekleştirileceği konusunda önemli bir söz hakkına sahip olacak. Eğer OpenAI gerçekten kamu yararını önemseseydi, milyarlarca dolarlık yatırım almadan önce yeniden yapılanmasını tamamlamış olurdu. Ancak yapısını daha erken bir aşamada değiştirmesi, OpenAI’nin yüksek değerlemesini baltalayabilirdi ve Musk’ın, kamu yararı yerine “maksimum kâr odaklı bir AI” şirketi olduğu yönündeki iddiasını desteklerdi.

Kurumsal yönetişim standartlarında reform yapmak çok önemli olsa da, büyük yapay zekâ şirketlerinin bu adımları, sık sık kullanılan şirket stratejilerinin bir örneği: Gönüllü, yarım önlemler benimseyerek devlet denetiminden ve incelemeden kaçınmak.

2019’da Amerikan şirketlerinden oluşan İş Dünyası Yuvarlak Masası (Business Roundtable), şirketlerin yalnızca hissedarlar için değil, çalışanlar ve topluluklar gibi “paydaşlar” için de değer yaratma sorumluluğu olduğunu açıklayarak büyük alkış toplamıştı. Ancak gazetecilerden ve akademiden gelen son araştırmalar, bu açıklamanın büyük ölçüde yeşil badana olduğunu gösteriyor. 2020’de George Floyd’un öldürülmesinin ardından çeşitlilik, eşitlik ve kapsayıcılık girişimleriyle övgü alan şirketlerin çoğu sonradan, verdikleri taahhütlerden geri adım attı. Kısacası, şirketler doğru olanı gönüllü olarak yapacaklarına dair kamuoyunu geçiştirme konusunda oldukça deneyimliler.

Kamu yararını gözeten şirket yapısını benimsemek doğru yönde bir adım olsa da yapay zekanın risklerinden ve çevresel etkilerinden toplumu korumak için yeterli olmaktan çok uzak. AI şirketlerinin kamu yararını önceliklendirdiğinden emin olmak için zorunlu yasal düzenlemelere ve bağlayıcı etik ve çevresel standartlara ihtiyacımız var. Bu sistemin merkezinde şeffaflık ve hesap verebilirliğin yanı sıra AI sistemlerinin neden oldukları zararlar için hukuki sorumluluk taşıması da olmalı.

Topumun yönetime katılımı da hayati önem taşıyor. Sorumlu yönetimi Elon Musk, Sam Altman ve benzerlerinin kararlarına bırakmamalıyız. Kararların yatırımcıların çıkarları yerine toplumsal refahı yansıtmasını sağlamalıyız. Bu önlemler, kamu yararını gözeten şirket yapısıyla birlikte, yapay zekânın geliştirilmesinin kısa vadeli kârlar yerine uzun vadeli toplumsal refahla uyumlu hale getirilmesi için zorunlu.

Christopher Marquis tarafından yazılan yazının orijinaline buradan erişebilirsiniz.

‍

[1] Kamu yararı gözeten şirketler ya da sosyal girişimler için Türkiye’dede herhangi bir özel yasal çerçeve bulunmuyor.

[2] B Corp’lar ile ilgili daha fazla bilgi için bakınız: “BCorp’lar herkesi “iyi iş” üzerine düşünmeye davet ediyor.”

‍