Ancak, hala rakiplerinden daha ucuz.
Deepseek'in yeni sohbet botu bu ilgi çekici açıklamayla kendisini bana tanıttı:
Merhaba, yaratıldım, böylece herhangi bir şey sorabilir ve sizi şaşırtabilecek bir cevap alabilirsiniz.
Bugün, Deepseek'in yapay zekası, piyasada zorlu bir rakip olarak ortaya çıktı ve özellikle Nvidia'nın en büyük hisse senedi fiyat düşüşlerinden birine katkıda bulundu.
Resim: ensigame.com
Bu modeli birbirinden ayıran şey, yenilikçi mimarisi ve eğitim yöntemleridir. Birkaç gelişmiş teknoloji içerir:
Çoklu Tahmini Tahmin (MTP): Bir seferde bir kelimeyi tahmin eden geleneksel modellerin aksine, Deepseek'in modeli, bir cümlenin farklı bölümlerini analiz ederek aynı anda birden fazla kelimeyi tahmin eder. Bu yaklaşım, modelin hem doğruluğunu hem de verimliliğini önemli ölçüde artırır.
Uzmanların Karışımı (MOE): Bu mimari, girdi verilerini işlemek için çeşitli sinir ağlarını kullanır. MOE'yi kullanarak teknoloji AI eğitimini hızlandırır ve performansı artırır. Deepseek V3'te etkileyici bir 256 sinir ağı kullanılır ve her bir jeton işleme görevi için sekiz etkinleştirilir.
Çok Baş Gizli Dikkat (MLA): Bu mekanizma, modelin bir cümlenin en önemli kısımlarına odaklanmasına yardımcı olur. MLA, metin parçalarından gelen temel ayrıntıları tekrar tekrar çıkarır ve önemli bilgilerin eksik olma olasılığını azaltır. Bu, AI'nın giriş verilerindeki önemli nüansları yakalama yeteneğini geliştirir.
Tanınmış Çinli girişim Deepseek, minimum maliyetlerle rekabetçi bir AI modeli oluşturduğunu iddia etti ve güçlü sinir ağı Deepseek V3'ü eğitmek için sadece 6 milyon dolar harcadıklarını ve sadece 2048 grafik işlemcisi kullandıklarını belirtti.
Resim: ensigame.com
Bununla birlikte, Semianaliz analistleri Deepseek'in yaklaşık 50.000 NVIDIA Hopper GPU'ları içeren büyük bir hesaplama altyapısı işlettiğini keşfetti. Buna 10.000 H800 birim, 10.000 daha gelişmiş H100 ve ek grup H20 GPU'lar dahildir. Bu kaynaklar çeşitli veri merkezlerine dağıtılır ve AI eğitim, araştırma ve finansal modelleme için kullanılır.
Şirketin sunuculara toplam yatırımı yaklaşık 1,6 milyar dolar, operasyonel giderlerin 944 milyon dolar olduğu tahmin ediliyor.
Deepseek, 2023'te AI teknolojilerine odaklanan ayrı bir bölüm olarak başlatılan Çin Hedge Fonu High-Flyer'in bir yan kuruluşudur. Bulut sağlayıcılarından bilgi işlem gücünü kiralayan çoğu girişimin aksine, Deepseek kendi veri merkezlerine sahiptir ve AI model optimizasyonu üzerinde tam kontrol sağlar ve inovasyonların daha hızlı uygulanması. Şirket, esnekliğini ve karar verme hızını olumlu yönde etkileyen kendi kendini finanse ediyor.
Resim: ensigame.com
Dahası, Deepseek'teki bazı araştırmacılar yılda 1.3 milyon doların üzerinde para kazanıyor ve önde gelen Çin üniversitelerinden en iyi yetenekleri çekiyor (şirket yabancı uzmanları işe almıyor).
Bunu göz önünde bulundurarak, Deepseek'in son modelini sadece 6 milyon dolarlık eğitme iddiası gerçekçi görünmüyor. Bu rakam sadece eğitim öncesi GPU kullanımının maliyetini ifade eder ve araştırma giderleri, model iyileştirme, veri işleme veya genel altyapı maliyetlerini açıklamaz.
Deepseek, kuruluşundan bu yana AI gelişimine 500 milyon doların üzerinde yatırım yaptı. Bununla birlikte, bürokrasi ile yüklenen daha büyük şirketlerin aksine, Deepseek'in kompakt yapısı AI yeniliklerini aktif ve etkili bir şekilde uygulamasını sağlar.
Resim: ensigame.com
Deepseek örneği, iyi finanse edilen bağımsız bir AI şirketinin endüstri liderleriyle rekabet edebileceğini göstermektedir. Bununla birlikte, uzmanlar şirketin başarısının büyük ölçüde milyarlarca yatırım, teknik atılımlar ve güçlü bir ekipten kaynaklandığını vurgularken, AI modelleri geliştirmek için "devrimci bir bütçe" iddiaları biraz abartılıdır.
Yine de, rakiplerin maliyetleri önemli ölçüde daha yüksek. Örneğin, model antrenman maliyetini karşılaştırın: Deepseek R1'e 5 milyon dolar harcadı, ChatGpt4o ise 100 milyon dolara mal oldu.