Het is echter nog steeds goedkoper dan zijn concurrenten.
De nieuwe chatbot van Deepseek stelde me aan met deze boeiende beschrijving:
Hallo, ik ben gemaakt, zodat je alles kunt vragen en een antwoord kunt krijgen dat je misschien zou kunnen verrassen.
Tegenwoordig is de kunstmatige intelligentie van Deepseek naar voren gekomen als een formidabele concurrent in de markt, met name die bijdraagt aan een van de grootste aandelenkoersdaling van Nvidia.
Afbeelding: ensigame.com
Wat dit model onderscheidt, zijn de innovatieve architectuur- en trainingsmethoden. Het bevat verschillende geavanceerde technologieën:
Multi-Token Prediction (MTP): in tegenstelling tot traditionele modellen die één woord tegelijk voorspellen, voorspelt het model van Deepseek meerdere woorden tegelijkertijd door verschillende delen van een zin te analyseren. Deze benadering verbetert zowel de nauwkeurigheid als de efficiëntie van het model aanzienlijk.
Mix van experts (MOE): deze architectuur maakt gebruik van verschillende neurale netwerken om invoergegevens te verwerken. Door MOE te gebruiken, versnelt de technologie AI -training en verbetert de prestaties. In Deepseek V3 worden een indrukwekkende 256 neurale netwerken gebruikt, waarbij er acht worden geactiveerd voor elke tokenverwerkingstaak.
Multi-head latente aandacht (MLA): dit mechanisme helpt het model te focussen op de belangrijkste delen van een zin. MLA haalt herhaaldelijk sleuteldetails uit tekstfragmenten uit, waardoor de kans op het missen van belangrijke informatie wordt verminderd. Dit verbetert het vermogen van de AI om cruciale nuances in de invoergegevens vast te leggen.
De prominente Chinese startup Deepseek beweerde een competitief AI -model te hebben gecreëerd met minimale kosten, waarin stond dat ze slechts $ 6 miljoen hebben uitgegeven aan het trainen van het krachtige neurale netwerk Deepseek V3 en slechts 2048 grafische processors gebruikten.
Afbeelding: ensigame.com
Analisten uit de semianyse ontdekten echter dat Deepseek een grote computationele infrastructuur heeft die ongeveer 50.000 Nvidia Hopper GPU's omvat. Dit omvat 10.000 H800 -eenheden, 10.000 meer geavanceerde H100's en extra batches van H20 GPU's. Deze middelen worden verdeeld over verschillende datacenters en worden gebruikt voor AI -training, onderzoek en financiële modellering.
De totale investering van het bedrijf in servers bedraagt ongeveer $ 1,6 miljard, met operationele kosten geschat op $ 944 miljoen.
Deepseek is een dochteronderneming van het Chinese hedgefonds High-Flyer, dat de startup afspelde als een afzonderlijke divisie gericht op AI-technologieën in 2023. In tegenstelling tot de meeste startups die rekenkracht huren van cloudproviders, bezit Deepseek zijn eigen datacenters, waardoor het volledige controle over AI-modeloptimalisatie heeft en faster implementatie van innovaties. Het bedrijf blijft zelf gefinancierd, wat een positieve invloed heeft op zijn flexibiliteit en besluitvormingssnelheid.
Afbeelding: ensigame.com
Bovendien verdienen sommige onderzoekers van Deepseek per jaar meer dan $ 1,3 miljoen en trekken ze toptalent aan van toonaangevende Chinese universiteiten (het bedrijf huurt geen buitenlandse specialisten in).
Zelfs gezien dit, lijkt de recente claim van Deepseek om zijn nieuwste model te trainen voor slechts $ 6 miljoen onrealistisch. Dit figuur verwijst alleen naar de kosten van GPU-gebruik tijdens pre-training en houdt geen rekening met onderzoekskosten, modelverfijning, gegevensverwerking of algemene infrastructuurkosten.
Sinds de oprichting heeft Deepseek meer dan $ 500 miljoen geïnvesteerd in AI -ontwikkeling. In tegenstelling tot grotere bedrijven die worden belast door bureaucratie, stelt de compacte structuur van Deepseek echter in staat AI -innovaties actief en effectief te implementeren.
Afbeelding: ensigame.com
Het voorbeeld van Deepseek toont aan dat een goed gefinancierd onafhankelijk AI-bedrijf kan concurreren met marktleiders. Desalniettemin benadrukken experts dat het succes van het bedrijf grotendeels te wijten is aan miljarden in investeringen, technische doorbraken en een sterk team, terwijl claims over een "revolutionair budget" voor het ontwikkelen van AI -modellen enigszins overdreven zijn.
Toch blijven de kosten van concurrenten aanzienlijk hoger. Vergelijk bijvoorbeeld de kosten van modelopleiding: Deepseek heeft $ 5 miljoen uitgegeven aan R1, terwijl Chatgpt4o $ 100 miljoen kostte.
Nieuwste downloads
Downlaod
Topnieuws
