Yapay zeka tarafından üretilen içerik, derin sahte görüntüler ve sahte sesler de dahil olmak üzere, gerçeklik ile üretim arasındaki sınırları bulanıklaştırarak geniş çapta kafa karışıklığı ve manipülasyona yol açtı. Yannick Myson gibi uzmanlar, içerik oluşturma aşamasında doğrulama gömme ve otantikliği sağlamak için merkeziyetsiz doğrulama sistemlerini uygulama savunucusu.
Yanlış Bilgi ve Tehlikeleri
2024 yılı, yapay zeka (AI) eğer önlem alınmazsa ne tür tehlikeler oluşturabileceği konusunda sert bir uyarı niteliğindeydi. Hindistan'ın devasa demokratik etkinliğinden Tayvan'ın gergin siyasi ortamına kadar, AI tarafından üretilen dezenformasyon kampanyaları izlerini bıraktı.
Tayvan'da, derin sahte haber sunucuları gerçeklik ile kurgunun arasını bulanıklaştırırken, Amerika Birleşik Devletleri'nde Başkan Biden'ın New Hampshire Demokratlarını oy vermekten caydırdığı iddia edilen sahte ses kaydı, yapay zekanın siyasi manipülasyon için ne kadar kolay bir şekilde silah haline getirilebileceğini vurguladı. Bu sentetik medyanın hacmi ve sofistikeliği, birçok insanı belirsizlik denizinde kaybolmuş hissettirerek, gerçeği kurgudan ayırt etmekte zorlanmalarına neden oldu.
Ancak Swarm Network'ün kurucusu ve CEO'su Yannick Myson gibi bazı uzmanlar, sorunun seçim manipülasyonundan daha derin olduğunu savunuyor. AI kaynaklı psikozu, insanların büyük hayaller geliştirdiği rahatsız edici bir fenomen olarak gösteriyor; bazı çalışmalar bu durumu AI sohbet botlarıyla uzun süreli etkileşimlerle ilişkilendiriyor. Bu AI kaynaklı psikozun maliyeti muazzam oldu; bazıları işlerini kaybetti, diğerleri ise psikiyatrik tedaviye girdi.
"Tam tıpkı derin sahte görüntülerin görsel işleme kısayollarımızı istismar etmesi gibi, yapay zeka psikozu da psikolojik zaaflarımızı istismar ediyor; sohbet robotları, yanıltıcı düşünceyi doğrulayan ve artıran mükemmel yankı odaları olarak hizmet ediyor," dedi Myson.
Merkezi ve Dağıtık Çözümler
Myson, mevcut reaktif önlemlerin, yamanmış doğrulama girişimleri gibi, bu artan sorunla başa çıkmak için yetersiz olduğunu düşünüyor. "Sektörün farkına vardığı şey, yamanmış doğrulamanın sentetik medyanın hızı veya AI sistemlerinin psikolojik manipülasyonuna ayak uyduramayacağıdır," diyor.
Onun çözümü, Swarm Network'te somutlaşmaktadır ve proaktif bir yaklaşımdır: ölçekli doğrulama yerleştirmek. Bu, içerik oluşturma noktasında kökeni belirlemek ve dijital bilginin kaynağının izlenebilir ve doğrulanabilir olmasını sağlamak anlamına gelir. Ayrıca, Myson, bilginin dijital alanda yayıldıkça çapraz kontrol edilip doğrulandığı merkeziyetsiz doğrulama sistemlerini savunucusu.
Bu sağlam bir "gerçeklik altyapısı" vizyonu, AI endüstrisi içindeki artan bir endişe ile örtüşüyor. Teknolojinin hızla ilerlemeye devam etmesiyle birlikte, kötüye kullanımının etik ve sosyal sonuçları giderek daha belirgin hale geliyor. Karmaşık AI tarafından üretilen yanlış bilgilerle beslenen dijital bilgilere olan güvenin erozyonu, demokratik süreçlere, sosyal uyuma ve hatta bireysel zihinsel sağlığa önemli bir tehdit oluşturuyor.
Buna karşı koymak için bazıları, bu durumun kullanıcıları ortaya çıkan teknolojilerle ilişkilendirilen potansiyel risklerden korumada hayati bir araç olduğunu belirterek bir düzenleyici yanıtı savunucusu olmuştur. Ancak, eleştirmenler bunun yeniliği engelleme gibi istenmeyen bir etki yaratabileceği konusunda uyarıyorlar; Myson'un da bu görüşe katıldığı görülüyor.
"Regülasyon yardımcı olabilir, ancak yalnızca gerçeği merkezileştirme tuzağından kaçınırsa. Hükümetlerin 'yanlış bilgi yasalarını' tartışmayı susturmak için silahlandırdığını gördük," dedi Swarm Network CEO'su.
Bu iddiayı desteklemek için, Myson, AB bürokratlarının Avrupa Birliği’nin (EU) Dijital Hizmetler Yasası (DSA)'nı, geniş bir şekilde tanımlanmış "zararlı" içeriğin kaldırılmasını zorunlu kılan, "dünyada açık tartışmayı sınırlamak için bir araç" olarak kullandığını bildirdi. Myson, AB AI Yasası'nın da benzer sorunlar yarattığını savunuyor.
DSA veya AI Yasası gibi yasalar çıkarmak yerine, Myson şeffaflık, sentetik medyanın açık etiketlenmesi ve C2PA gibi açık köken standartlarını zorunlu kılmayı savunuyor. "Kurallar kanıtı zorunlu kılmalı, görüşü değil," diye savundu.
Doğrulamanın Geleceği
CEO'ya göre, Meta ve TikTok gibi büyük sosyal medya platformları bunu kabul etmekte ve bu nedenle doğrulama için daha merkeziyetsiz yaklaşımlara yönelmektedir.
“Bu değişim, merkezi faktör doğrulamanın darboğazlar ve tekil hata noktaları yarattığını temel bir şekilde kabul etmekte. İçerik doğrulamanın geleceği, hükümetlere veya şirketlere neyin doğru olduğuna karar verme gücü vermekle ilgili değil,” dedi CEO.
Myson, bu değişikliğin Swarm Network tarafından sunulan çözüm gibi çözümleri kritik hale getirdiğine inanıyor. Bir avuç merkezi doğrulayıcıya güvenmek yerine, Swarm "doğrulanmış iddiaların denetlenebilir, zincir üzerinde kaydedilmiş bir kaydını oluşturmak için insan gözden geçirenlerle birlikte çalışan AI ajanlarını" kullanıyor.
Gerçekten de, AI ajanları teorik kavramlardan pratik uygulamalara hızla geçiyor ve çeşitli sektörlerin nasıl çalıştığını temelden değiştiriyor. Bu ajanların birincil avantajı, otomatikleştirme ve optimize etme yetenekleridir. Kısa sürede büyük miktarda veriyi işleyebilir, insanların gözden kaçırabileceği kalıpları tespit edebilir ve yorgunluk olmaksızın 24/7 çalışabilirler.
Yine de, AI ajanlarının yaygın benimsenmesi, dikkatlice ele alınması gereken karmaşık zorluklar da getiriyor. Bu zorlukların bazılarını aşmak için Myson, şirketinin yaklaşımının "ajanları denetimsiz oraklardan çok, şeffaf işbirlikçilere dönüştürmek" olduğunu söyledi. Ayrıca ekledi:
"Swarm'da, ajanlar bilgiyi küçük, test edilebilir iddialara ayırır, birbirlerini kontrol eder ve nüans gerektiğinde insanlar devreye girer. Her adım kaydedilir ve zincirde sabitlenir, böylece onların akıl yürütmesi yeniden oynatılabilir. Kısacası: siyah kutular yok, sadece doğrulanabilir izler."
Bu arada, Myson, önümüzdeki beş yıl içinde, gerçek kontrolünün manuel bir süreçten dijital yaşamın yerleşik bir özelliğine evrileceğine ve AI ajanlarının yalnızca hızları değil, şeffaflıklarıyla değerlendirileceğine inanıyor. Nihai vizyon, gerçeği internetin temel bir katmanı haline getirmektir.
"SSL'in web trafiği için varsayılan hale geldiği gibi, bir doğruluk protokolü de bilgi için varsayılan hale gelecektir. Ve işte bu şekilde AI'nin dünyayı gürültüye boğmasını önleriz," dedi Myson.
View Original
This page may contain third-party content, which is provided for information purposes only (not representations/warranties) and should not be considered as an endorsement of its views by Gate, nor as financial or professional advice. See Disclaimer for details.
AI Uzmanı: Gerçeklik Protokolleri Bilgi Çağının SSL'si Olabilir
Yapay zeka tarafından üretilen içerik, derin sahte görüntüler ve sahte sesler de dahil olmak üzere, gerçeklik ile üretim arasındaki sınırları bulanıklaştırarak geniş çapta kafa karışıklığı ve manipülasyona yol açtı. Yannick Myson gibi uzmanlar, içerik oluşturma aşamasında doğrulama gömme ve otantikliği sağlamak için merkeziyetsiz doğrulama sistemlerini uygulama savunucusu.
Yanlış Bilgi ve Tehlikeleri
2024 yılı, yapay zeka (AI) eğer önlem alınmazsa ne tür tehlikeler oluşturabileceği konusunda sert bir uyarı niteliğindeydi. Hindistan'ın devasa demokratik etkinliğinden Tayvan'ın gergin siyasi ortamına kadar, AI tarafından üretilen dezenformasyon kampanyaları izlerini bıraktı.
Tayvan'da, derin sahte haber sunucuları gerçeklik ile kurgunun arasını bulanıklaştırırken, Amerika Birleşik Devletleri'nde Başkan Biden'ın New Hampshire Demokratlarını oy vermekten caydırdığı iddia edilen sahte ses kaydı, yapay zekanın siyasi manipülasyon için ne kadar kolay bir şekilde silah haline getirilebileceğini vurguladı. Bu sentetik medyanın hacmi ve sofistikeliği, birçok insanı belirsizlik denizinde kaybolmuş hissettirerek, gerçeği kurgudan ayırt etmekte zorlanmalarına neden oldu.
Ancak Swarm Network'ün kurucusu ve CEO'su Yannick Myson gibi bazı uzmanlar, sorunun seçim manipülasyonundan daha derin olduğunu savunuyor. AI kaynaklı psikozu, insanların büyük hayaller geliştirdiği rahatsız edici bir fenomen olarak gösteriyor; bazı çalışmalar bu durumu AI sohbet botlarıyla uzun süreli etkileşimlerle ilişkilendiriyor. Bu AI kaynaklı psikozun maliyeti muazzam oldu; bazıları işlerini kaybetti, diğerleri ise psikiyatrik tedaviye girdi.
"Tam tıpkı derin sahte görüntülerin görsel işleme kısayollarımızı istismar etmesi gibi, yapay zeka psikozu da psikolojik zaaflarımızı istismar ediyor; sohbet robotları, yanıltıcı düşünceyi doğrulayan ve artıran mükemmel yankı odaları olarak hizmet ediyor," dedi Myson.
Merkezi ve Dağıtık Çözümler
Myson, mevcut reaktif önlemlerin, yamanmış doğrulama girişimleri gibi, bu artan sorunla başa çıkmak için yetersiz olduğunu düşünüyor. "Sektörün farkına vardığı şey, yamanmış doğrulamanın sentetik medyanın hızı veya AI sistemlerinin psikolojik manipülasyonuna ayak uyduramayacağıdır," diyor.
Onun çözümü, Swarm Network'te somutlaşmaktadır ve proaktif bir yaklaşımdır: ölçekli doğrulama yerleştirmek. Bu, içerik oluşturma noktasında kökeni belirlemek ve dijital bilginin kaynağının izlenebilir ve doğrulanabilir olmasını sağlamak anlamına gelir. Ayrıca, Myson, bilginin dijital alanda yayıldıkça çapraz kontrol edilip doğrulandığı merkeziyetsiz doğrulama sistemlerini savunucusu.
Bu sağlam bir "gerçeklik altyapısı" vizyonu, AI endüstrisi içindeki artan bir endişe ile örtüşüyor. Teknolojinin hızla ilerlemeye devam etmesiyle birlikte, kötüye kullanımının etik ve sosyal sonuçları giderek daha belirgin hale geliyor. Karmaşık AI tarafından üretilen yanlış bilgilerle beslenen dijital bilgilere olan güvenin erozyonu, demokratik süreçlere, sosyal uyuma ve hatta bireysel zihinsel sağlığa önemli bir tehdit oluşturuyor.
Buna karşı koymak için bazıları, bu durumun kullanıcıları ortaya çıkan teknolojilerle ilişkilendirilen potansiyel risklerden korumada hayati bir araç olduğunu belirterek bir düzenleyici yanıtı savunucusu olmuştur. Ancak, eleştirmenler bunun yeniliği engelleme gibi istenmeyen bir etki yaratabileceği konusunda uyarıyorlar; Myson'un da bu görüşe katıldığı görülüyor.
"Regülasyon yardımcı olabilir, ancak yalnızca gerçeği merkezileştirme tuzağından kaçınırsa. Hükümetlerin 'yanlış bilgi yasalarını' tartışmayı susturmak için silahlandırdığını gördük," dedi Swarm Network CEO'su.
Bu iddiayı desteklemek için, Myson, AB bürokratlarının Avrupa Birliği’nin (EU) Dijital Hizmetler Yasası (DSA)'nı, geniş bir şekilde tanımlanmış "zararlı" içeriğin kaldırılmasını zorunlu kılan, "dünyada açık tartışmayı sınırlamak için bir araç" olarak kullandığını bildirdi. Myson, AB AI Yasası'nın da benzer sorunlar yarattığını savunuyor.
DSA veya AI Yasası gibi yasalar çıkarmak yerine, Myson şeffaflık, sentetik medyanın açık etiketlenmesi ve C2PA gibi açık köken standartlarını zorunlu kılmayı savunuyor. "Kurallar kanıtı zorunlu kılmalı, görüşü değil," diye savundu.
Doğrulamanın Geleceği
CEO'ya göre, Meta ve TikTok gibi büyük sosyal medya platformları bunu kabul etmekte ve bu nedenle doğrulama için daha merkeziyetsiz yaklaşımlara yönelmektedir.
“Bu değişim, merkezi faktör doğrulamanın darboğazlar ve tekil hata noktaları yarattığını temel bir şekilde kabul etmekte. İçerik doğrulamanın geleceği, hükümetlere veya şirketlere neyin doğru olduğuna karar verme gücü vermekle ilgili değil,” dedi CEO.
Myson, bu değişikliğin Swarm Network tarafından sunulan çözüm gibi çözümleri kritik hale getirdiğine inanıyor. Bir avuç merkezi doğrulayıcıya güvenmek yerine, Swarm "doğrulanmış iddiaların denetlenebilir, zincir üzerinde kaydedilmiş bir kaydını oluşturmak için insan gözden geçirenlerle birlikte çalışan AI ajanlarını" kullanıyor.
Gerçekten de, AI ajanları teorik kavramlardan pratik uygulamalara hızla geçiyor ve çeşitli sektörlerin nasıl çalıştığını temelden değiştiriyor. Bu ajanların birincil avantajı, otomatikleştirme ve optimize etme yetenekleridir. Kısa sürede büyük miktarda veriyi işleyebilir, insanların gözden kaçırabileceği kalıpları tespit edebilir ve yorgunluk olmaksızın 24/7 çalışabilirler.
Yine de, AI ajanlarının yaygın benimsenmesi, dikkatlice ele alınması gereken karmaşık zorluklar da getiriyor. Bu zorlukların bazılarını aşmak için Myson, şirketinin yaklaşımının "ajanları denetimsiz oraklardan çok, şeffaf işbirlikçilere dönüştürmek" olduğunu söyledi. Ayrıca ekledi:
"Swarm'da, ajanlar bilgiyi küçük, test edilebilir iddialara ayırır, birbirlerini kontrol eder ve nüans gerektiğinde insanlar devreye girer. Her adım kaydedilir ve zincirde sabitlenir, böylece onların akıl yürütmesi yeniden oynatılabilir. Kısacası: siyah kutular yok, sadece doğrulanabilir izler."
Bu arada, Myson, önümüzdeki beş yıl içinde, gerçek kontrolünün manuel bir süreçten dijital yaşamın yerleşik bir özelliğine evrileceğine ve AI ajanlarının yalnızca hızları değil, şeffaflıklarıyla değerlendirileceğine inanıyor. Nihai vizyon, gerçeği internetin temel bir katmanı haline getirmektir.
"SSL'in web trafiği için varsayılan hale geldiği gibi, bir doğruluk protokolü de bilgi için varsayılan hale gelecektir. Ve işte bu şekilde AI'nin dünyayı gürültüye boğmasını önleriz," dedi Myson.