Český startup BottleCap AI upravil jazykový model od Nvidie a představil verzi ThinkingCap, která šetří tokeny i čas při zachování vysoké přesnosti.
Titulek: Češi z BottleCap AI zrychlili model od Nvidie: ThinkingCap šetří tokeny i čas
Český startup BottleCap AI představil další významný krok ve svém úsilí o efektivnější provoz jazykových modelů. Za tímto tuzemským projektem stojí výzkumník Tomáš Mikolov a podnikatel Jaroslav Beck, kteří se rozhodli upravit jazykový model Nemotron[1]. Upravená verze modelu patří do rodiny ThinkingCap, kterou tým BottleCap AI postupně vyvíjí a zveřejňuje[2]. Výsledný model nese název ThinkingCap-NVIDIA-Nemotron-3.5-Lightning-30B-A3B a je zdarma k dispozici na platformě Hugging Face[3].
Úspornější uvažování a zachování přesnosti
Společnost Nvidia standardně nabízí své modely ve variantách Nano/Lightning, Super a Ultra[4]. Startup BottleCap AI pro svou optimalizaci upravil konkrétní model Nemotron-3.5-Lightning-30B-A3B, který slouží jako rychlý model určený mimo jiné pro různé úkoly AI agentů[5].
Metodou úpravy modelu ThinkingCap na bázi Nemotron-3.5-Lightning-30B-A3B-BF16 je post-training zaměřený na zkrácení stop uvažování[6]. Tento přístup zachovává výkon na náročných i agentních úlohách a zároveň přináší znatelné omezení mnohomluvnosti při přemýšlení[6]. Model ThinkingCap dosahuje snížení počtu tokenů při uvažování až o více než 31 % a v průměru o necelých 23 %[7]. Výrazné zkrácení myšlenkových kroků přitom neohrozilo kvalitu výstupů, protože model ThinkingCap Nemotron 3.5 Lightning 30B-A3B si zachovává průměrnou přesnost 71,4 % oproti 72,2 % u výchozího modelu Nvidia[8].
Rychlejší řešení úloh a stabilnější generování
Úspora výpočetních tokenů má praktický dopad na celkovou rychlost zpracování. Při experimentálním řešení stejné chemické úlohy s časovým limitem 20 minut dokončil model ThinkingCap 25 úloh, zatímco základní model jich ve stejném čase stihl vyřešit pouze 11[9].
Zároveň došlo ke snížení výskytu chyb při generování dlouhých odpovědí. Chybovost typu useknutí uvažování před formulací finální odpovědi klesla u modelu ThinkingCap z 0,43 % na 0,22 % a zacyklení uvažování se snížilo z 0,30 % na 0,16 %[10]. Při testování v benchmarcích byl u většiny zkoušek nastaven generovací limit na 253 952 tokenů, zatímco u benchmarků AA-LCR a τ²-bench činil 65 536 tokenů z důvodu obsazení zbývajícího kontextového okna dokumenty a vícestupňovými přepisy[11].
Zázemí BottleCap AI a předchozí projekty
Pro český startup nejde o první vydaný model v této sérii. V řadě ThinkingCap vyšly před modelem od Nvidie již dva optimalizované modely Qwen od Alibaby[12].
Startup staví na zkušeném týmu zakladatelů. Spoluzakladatelem BottleCap AI je Jaroslav Beck, který stál také u zrodu hry Beat Saber[13]. Druhý ze spoluzakladatelů, uznávaný vědec Tomáš Mikolov, v jarním období opustil své akademické působiště na ČVUT[14]. Startup BottleCap AI vedle samotné optimalizace velkých jazykových modelů nabízí také softwarové aplikace AI Scan a Pulse[15]. Pro svůj rozvoj firma získala novou investici a stihla již uvést první aplikaci pro operační systém iOS[16].
Při řešení stejné chemické úlohy s limitem 20 minut dokončil model ThinkingCap 25 úloh oproti 11 úlohám základního modelu.
Both models run on identical setups and get the same chemistry problem, with 20 minutes to solve it. ThinkingCap uses 23% fewer thinking tokens and completes 25 tasks in that time, compared to 11 for the base model.
huggingface.coOtevřít zdroj
Startup BottleCap AI vedle optimalizace modelů nabízí aplikace AI Scan a Pulse.
BottleCap AI je startup, který se zaměřuje právě na optimalizaci AI modelů. Nabízí také aplikace AI Scan a Pulse.
lupa.czOtevřít zdroj
Model ThinkingCap dosahuje snížení počtu tokenů při uvažování až o více než 31 % a v průměru o necelých 23 %.
ThinkingCap slibuje snížení počtu tokenů v režimu přemýšlení až o více než 31 procent, v průměru o necelých 23 procent.
lupa.czOtevřít zdroj
Společnost Nvidia nabízí otevřené modely Nemotron ve variantách Nano/Lightning, Super a Ultra.
Nvidia vydává verze Nano/Lightning, Super a Ultra – podle toho, jak náročné úlohy potřebujete řešit.
lupa.czOtevřít zdroj
Metodou úpravy modelu ThinkingCap na bázi Nemotron-3.5-Lightning-30B-A3B-BF16 je post-training zaměřený na zkrácení stop uvažování.
ThinkingCap brings our shorter-thinking post-training to NVIDIA-Nemotron-3.5-Lightning-30B-A3B-BF16 (NVIDIA, 2026), keeping its performance on challenging and agentic tasks while delivering a substantial reduction in thinking verbosity.
huggingface.coOtevřít zdroj
Upravená verze modelu Nemotron patří do rodiny modelů ThinkingCap vyvíjené týmem BottleCap AI.
Tato vylepšená verze spadá do rodiny modelů ThinkingCap, které Češi postupně zveřejňují.
lupa.czOtevřít zdroj
Výsledný upravený model nese název ThinkingCap-NVIDIA-Nemotron-3.5-Lightning-30B-A3B a je zdarma k dispozici na platformě Hugging Face.
Upravená česká verze se jmenuje ThinkingCap-NVIDIA-Nemotron-3.5-Lightning-30B-A3B a k dispozici je zdarma na Hugging Face (GGUF je zde).
lupa.czOtevřít zdroj
Za českým startupem BottleCap AI stojí výzkumník Tomáš Mikolov a podnikatel Jaroslav Beck.
Startup BottleCap AI, za kterým stojí Tomáš Mikolov a Jaroslav Beck, upravil jazykový model Nemotron.
lupa.czOtevřít zdroj
Spoluzakladatelem BottleCap AI je Jaroslav Beck, který stál také u zrodu hry Beat Saber.
Český startup BottleCap AI má velké ambice ve světě umělé inteligence. Spoluzakladatel Beat Saberu se v něm spojuje s uznávaným vědcem.
cc.czOtevřít zdroj
Spoluzakladatel BottleCap AI Tomáš Mikolov v jarním období opustil akademické působiště na ČVUT.
Jeden z nejcitovanějších vědců v oboru AI Tomáš Mikolov na jaře odešel z ČVUT. V otevřeném rozhovoru popisuje důvody i zkušenosti z ciziny.
cc.czOtevřít zdroj
Chybovost typu useknutí uvažování před odpovědí klesla u modelu ThinkingCap z 0,43 % na 0,22 % a zacyklení uvažování kleslo z 0,30 % na 0,16 %.
Both stay below 1% overall and both improve: truncation 0.43% → 0.22% and looping 0.30% → 0.16%, equal-weight across benchmarks.
huggingface.coOtevřít zdroj
V sérii ThinkingCap před modelem Nemotron vyšly dva optimalizované modely Qwen od čínské společnosti Alibaba.
V rámci série ThinkingCap doposud vyšly dva upravené modely Qwen od Alibaby, jeden nedávno.
lupa.czOtevřít zdroj
Startup BottleCap AI upravil konkrétní model Nemotron-3.5-Lightning-30B-A3B.
V BottleCap AI upravili verzi Nemotron-3.5-Lightning-30B-A3B. Jde o rychlý model určený například pro různé úkoly AI agentů.
lupa.czOtevřít zdroj
Model ThinkingCap Nemotron 3.5 Lightning 30B-A3B si zachovává průměrnou přesnost 71,4 % oproti 72,2 % u výchozího modelu Nvidia.
ThinkingCap Nemotron 3.5 Lightning 30B-A3B cuts reasoning tokens by 23% on average (12% to 31% depending on the benchmark) and holds an average accuracy of 71.4% against the base model's 72.2%.
huggingface.coOtevřít zdroj
Startup BottleCap AI získal novou investici a uvedl aplikaci pro operační systém iOS.
Český startup BottleCap AI chce zefektivnit trénování modelů umělé inteligence. Má na to novou investici a uvádí první aplikaci pro iOS.
cc.czOtevřít zdroj
U většiny benchmarků byl nastaven generovací limit na 253 952 tokenů a u AA-LCR a τ²-bench na 65 536 tokenů.
The generation cap is 253,952 tokens for most benchmarks. AA-LCR and τ²-bench use 65,536, because their documents and multi-turn transcripts occupy the rest of the window.
huggingface.coOtevřít zdroj