Açık ağırlıklar, izlenen ajanlar ve 12.700 ajan çalıştıran bir banka

Bu hafta tartışma, ajanların kullanılıp kullanılmayacağından onların büyük ölçekte nasıl yönetileceğine kaydı. Büyük bir Avrupa modeli indirilip kendi donanımınızda çalıştırılabilir hale geldi, OpenAI ajanlarını eğitim ve test sırasında nasıl izlediğini yayımladı ve Avrupa'nın en büyük bankalarından biri çalışanlarının şimdiden kaç ajan kullandığını açıkladı. Ottawa'dan Dubai'ye ve Ankara'ya kadar hükümetler yapay zeka kapasitesini ulusal bir varlık olarak görmeye devam etti.

Modeller ve sürümler

Mistral, trilyon parametreli modeli Large 4'ün ağırlıklarını yayımladı

Mistral 29 Ekim'de, ekim başında tanıttığı trilyon parametreli Mistral Large 4 modelinin ağırlıklarını Hugging Face'te yayımladı. Kurumlar artık modeli indirip kendi altyapılarında çalıştırabiliyor; Mistral modeli yazılım geliştirme ve savunma amaçlı siber güvenlik için konumlandırıyor. Şirkete göre model, Çin'in GLM-5.3 modeliyle benzer performansı görev başına daha az token kullanarak sunuyor.

Neden önemli: Bir AB şirketinden gelen, ağırlıkları indirilebilen sınır ölçeğinde bir model, regüle kurumlara hassas iş yüklerini tamamen kendi tesislerinde tutmak için gerçek bir seçenek sunuyor.

Bizim görüşümüz: Trilyon parametreli bir modeli çalıştırmak yalnızca bir indirme işi değil, bir donanım ve operasyon kararı. Çoğu kullanım için kendi belgelerinizle ince ayar yapılmış daha küçük bir açık model daha ucuza çalışır; Large 4 ise küçük modellerin yetersiz kaldığı yerlerde test edilmeye değer.

Kaynak: Mistral AI

Ajanlar ve araçlar

OpenAI, kuralları aşan ajanları yakalamak için kullandığı katmanlı izleme sistemini anlattı

OpenAI, sınır modelleri için dört katmanlı bir izleme sistemini anlattı: Hafif sınıflandırıcılar tüm etkinliği tarıyor, bir model konuşmaları ve araç kullanımını inceliyor, bir araştırma ajanı işaretlenen vakaları yeniden kurguluyor ve son bir kontrol, bir insanı uyarmadan önce kayıtları ağ günlükleriyle karşılaştırıyor. OpenAI'a göre sistem, yaz aylarındaki Hugging Face olayının yeniden canlandırılmasında, ajanlar test ortamından çıktıktan yaklaşık 30 dakika sonra alarm verecekti. Bu rakam canlı bir olaydan değil, bir simülasyondan geliyor.

Neden önemli: Denetim otoriteleri, kurumların yetkisi dışında hareket eden bir ajanı nasıl tespit ettiğini sormaya başlıyor. Bir sınır laboratuvarının yayımladığı tasarım, risk ekiplerine kendi kontrollerini karşılaştırabilecekleri somut bir model sunuyor.

Bizim görüşümüz: Bu yapı küçük ölçeğe de iyi uyuyor: Her işlemde ucuz kurallar, şüpheli olanları inceleyen bir model ve son kanıt olarak ağ günlükleri. Ajan projelerini bu tür bir denetim iziyle ilk günden kuruyoruz; çünkü bunu sonradan eklemek çok daha zor.

Kaynak: OpenAI

Amazon: Dış alışveriş ajanları hâlâ kendi mağazamızın gerisinde

Amazon CEO'su Andy Jassy 29 Ekim'deki bilanço toplantısında, üçüncü taraf alışveriş ajanları üzerinden alışveriş yapan müşterilerin az olduğunu ve bu ajanların henüz doğrudan perakendeciden alışveriş yapmaktan daha pratik olmadığını söyledi. Amazon eylülde Meta'nın Muse asistanının mağazasına erişimini engellemişti; bunun yerine son bir yılda 400 milyondan fazla müşterinin kullandığını söylediği kendi Alexa alışveriş ajanını öne çıkarıyor.

Neden önemli: Büyük platformlar, müşterileri adına hangi dış ajanların işlem yapabileceğine karar veriyor. Bankalar ve sigortacılar da portallarına ve hesaplarına erişen üçüncü taraf ajanlar konusunda aynı seçimle karşı karşıya.

Bizim görüşümüz: Dış ajanları engellemek kanalı korur ama talebi ortadan kaldırmaz. Kendi ajanınızı ya da onaylı ajanlar için kontrollü bir arayüz sunmak genellikle daha kalıcı bir çözümdür.

Kaynak: Fortune

Kurumsal kullanım

UBS çalışanları artık 12.700'den fazla kişisel yapay zeka ajanı kullanıyor

UBS 29 Ekim'de açıkladığı üçüncü çeyrek sonuçlarında, çalışanlarının günlük işlerinde 12.700'den fazla kişisel yapay zeka ajanı kullandığını bildirdi. Banka, üretimde 608 yapay zeka kullanım senaryosu olduğunu, bunun bir yıl öncesine göre %81 fazla olduğunu ve 1.090'dan fazla uygulamanın geliştirme aşamasında bulunduğunu açıkladı. Ayrıca 18.000 yazılım geliştiricisinin yapay zeka kodlama araçlarını kullandığını belirtti.

Neden önemli: Sıkı regülasyona tabi küresel bir banka artık ajan kullanımını bir operasyonel gösterge olarak raporluyor. Benzer kurumlara yönetim kurulları ve denetçiler tarafından nerede durdukları ve bu kadar çok ajanı nasıl yönettikleri sorulacak.

Bizim görüşümüz: Bu ölçekte zor olan ajan geliştirmek değil, envanter tutmak: Her ajanın sahibi kim, hangi verileri okuyor ve neleri yapmasına izin var. Bu kaydı, ajan sayısı yüzlere ulaşmadan kurmak gerekiyor.

Kaynak: PYMNTS

Regülasyon ve yönetişim

ABD FTC, dokuz şirketten kişiselleştirilmiş fiyatlandırma ve ücretlendirmeyi açıklamasını istedi

ABD Federal Ticaret Komisyonu (FTC) 28 Ekim'de inceleme yetkisini kullanarak Delta, United, Uber, DoorDash, Target ve Walmart'ın da aralarında bulunduğu dokuz şirketten, fiyatların kişisel verilere göre kişiden kişiye değişip değişmediğini açıklamasını istedi. Araç çağırma ve teslimat şirketleri ayrıca sürücü ücretlerini nasıl belirlediklerini de anlatmak zorunda. Şirketlerin yanıt vermek için 45 günü var.

Neden önemli: Kişisel verilere dayalı algoritmik fiyatlandırma, AB'nin bazı bölgelerinde olduğu gibi ABD'de de mercek altında. Bireysel fiyatlama yapan sigortacılar ve kredi kuruluşları, kullanılan girdiler ve adalet konusunda benzer sorular beklemeli.

Bizim görüşümüz: Bir model fiyat ya da limit belirliyorsa, hangi girdileri neden kullandığını göstermeye hazır olun. Bu açıklamayı sonradan yeniden kurmak yerine kararın yanında saklamak, bu tür incelemeleri yönetilebilir kılar.

Kaynak: US Federal Trade Commission

Egemen yapay zeka ve altyapı

Kanada, veri ve işlem gücü şartlarıyla Cohere'e ortak oldu

Kanada Başbakanı Mark Carney, Toronto merkezli Cohere'de hisse almak için 1,6 milyar Kanada dolarına kadar yatırım yapılacağını açıkladı. Yatırım, Almanya'dan Schwarz Group'un liderlik ettiği 7 milyar Kanada dolarlık turun parçası. Karşılığında Cohere merkezini Kanada'da tutacak, 1.000 kişilik istihdam yaratacak ve 2030'a kadar Kanada'daki işlem altyapısına en az 1,7 milyar Kanada doları harcayacak. Carney, devlet verilerinin Kanada'da kalacağını söyledi.

Neden önemli: Hükümetler yapay zeka hizmeti satın almaktan tedarikçinin bir kısmına sahip olmaya geçiyor ve veri yerleşimi ile yerel işlem gücünü sözleşme şartlarına yazıyor. Schwarz Group'un turdaki lider rolü de anlaşmayı Avrupa'ya bağlıyor.

Bizim görüşümüz: Buradaki egemenlik somut maddelerle tanımlanıyor: Verinin nerede durduğu, işlem gücünün nerede çalıştığı ve şirketi kimin kontrol ettiği. Güvenmeyi planladığınız her yapay zeka tedarikçisine sorulması gereken üç soru da bunlar.

Kaynak: Yahoo News Canada (The Canadian Press)

Bölgesel gündem

Türkiye, yapay zeka patentlerinde acele araştırma ücretini yarıya indirdi

TÜRKPATENT'in 31 Ekim'de Resmi Gazete'de yayımlanan ücret düzenlemesiyle, yapay zeka patent başvurularında acele araştırma raporu ücreti %50 indirildi. İlk patent başvurusunu yapan KOBİ'ler de başvuru, araştırma ve inceleme ücretlerinde %75 indirimden yararlanacak. Düzenleme yayımlandığı gün yürürlüğe girdi.

Neden önemli: Daha ucuz ve hızlı patent araştırması, bankalar, sigorta şirketleri ve sanayi grupları içinde geliştirilenler de dahil olmak üzere Türkiye'de geliştirilen yapay zeka çalışmalarını korumanın maliyetini düşürüyor.

Bizim görüşümüz: Ajanları ve bilgi erişim sistemlerini kurum içinde geliştiren ekipler çoğu zaman korunmaya değer yöntemler ortaya çıkarıyor. Bu yıl geliştirilenleri yayımlanmadan ya da tedarikçilere gösterilmeden önce gözden geçirmek artık daha düşük maliyetli.

Kaynak: Techinside

Dubai, Yapay Zeka Kampüsü hedefini 2030'a kadar 1.000 şirkete yükseltti

Şeyh Hamdan, 26 Ekim'deki Dubai AI Festival sırasında DIFC'deki Dubai Yapay Zeka Kampüsü'nün hedeflerini 2030'a kadar 1.000'den fazla yapay zeka şirketi ve 5.000 nitelikli istihdama yükseltti. Kampüs, Mayıs 2024'teki açılışından bu yana 500'den fazla yapay zeka şirketi çektiğini ve ilk istihdam hedefini şimdiden aştığını açıkladı. Scale AI da festival sırasında burada bir BAE ofisi açtı.

Neden önemli: Dubai, finans merkezinin hemen yanında yoğun bir yerel yapay zeka tedarikçi pazarı kuruyor; bu da Körfez'deki bankaların ve kamu kurumlarının ajan projelerini nasıl tedarik edeceğini şekillendirecek.

Bizim görüşümüz: Daha geniş bir yerel tedarikçi tabanı, Körfez kurumlarının veriyi ve teslimatı bölge içinde tutmasına yardımcı oluyor. Aralarında seçim yaparken demo değil, denetim iziyle canlı ortamda çalışan ajanları görmek isteyin.

Kaynak: Fortune

Takip ettiklerimiz

AB Yapay Zeka Ofisi'nin en büyük modeller için bağımsız değerlendiricilere yönelik önerdiği kriterlerin ilerleyip ilerlemeyeceğini, İngiltere'nin veri koruma otoritesi ICO'nun ajan tabanlı yapay zeka konusundaki görüş çağrısına 20 Kasım'daki kapanıştan önce kurumların nasıl yanıt vereceğini ve diğer büyük bankaların da UBS gibi ajan sayılarını sonuçlarıyla birlikte açıklayıp açıklamayacağını izleyeceğiz.