Aplikácia DeepSeek pár dní od uvedenia v januári prekročila na platforme Google Play hranicu desiatich miliónov stiahnutí. V App Store sa stala najžiadanejšou a predbehla aj zbožňovanú aplikáciu ChatGPT.

Týždeň stačil na to, aby sa DeepSeek stala najsťahovanejšou bezplatnou aplikáciou v USA. Doteraz samé pekné správy.

Na oboch brehoch Atlantiku však profesionáli kybernetickej bezpečnosti spustili poplašné sirény.

Vypočujte si Report bezpečnosti, 676 slov, číta pre vás AI.

Bezpečáci sa dali do práce

Výskumníci Cisco náhodne vybrali 50 promptov z knižnice HarmBench, ktorá sa štandardne používa na testy odolnosti. Testovali DeepSeek R1 zadávaním promptov zo šiestich kategórií vrátane všeobecného poškodzovania, počítačovej kriminality, dezinformácií a nezákonných aktivít.

Model nebol schopný rozpoznať alebo zablokovať žiadny prompt, ktorý sa označuje ako škodlivý alebo prompt so škodlivými úmyslami. Dosiahol stopercentnú mieru zlyhania.

Kyberbezpečnostní profesionáli preto varujú, že modely DeepSeek sú náchylné na jailbreak útoky. Používateľ tak dokáže obísť bezpečnostné zábrany a model generuje škodlivý obsah, ako sú návody na výrobu výbušnín či dezinformácie.

Zlatá baňa údajov. Len tak pohodená

Bolo iba pár dní od premiéry a výskumníci spoločnosti Wiz objavili verejne prístupnú databázu DeepSeek, ktorá obsahovala obrovské množstvo citlivých informácií vrátane histórie chatu, backendových údajov, logovacích tokov a prevádzkových detailov. Spoločnosť DeepSeek urobila okamžite po upozornení nápravné kroky, ale na dôveryhodnosti jej to nepridalo.

Obavy o bezpečnosť a ochranu osobných údajov

Viaceré krajiny a inštitúcie prijali opatrenia proti používaniu aplikácie DeepSeek. Bezpečnostné dôvody majú technologické, legislatívne aj politické základy.

Zákonodarcovia v Spojených štátoch amerických plánujú návrh zákona, ktorý by zakázal používanie aplikácie DeepSeek na vládnych zariadeniach. Americké námorníctvo a agentúra NASA už tento zákaz uplatňujú.

Austrálska vláda vydala zákaz používania technológií od spoločnosti DeepSeek na všetkých vládnych systémoch a zariadeniach z dôvodu národnej bezpečnosti. Zákaz sa však nevzťahuje na súkromných používateľov.

Aj u nás? Áno, varovanie platí aj pre Slovensko

Slovenský Národný bezpečnostný úrad upozorňuje, že DeepSeek zbiera od používateľov dáta v oveľa väčšom rozsahu ako konkurencia. Dáta zahŕňajú presné časovanie stlačení jednotlivých klávesov, zadané prompty, heslá, vkladané obrázky, audio súbory, dokumenty, ale aj IP adresu počítača, z ktorého je služba DeepSeek využívaná, systémový jazyk a podobne. Špeciálny dôraz v upozornení je na to, že informácie sa ukladajú na servery v Číne.

Taliansky úrad na ochranu osobných údajov ide ešte ďalej. Začal vyšetrovanie spoločnosti DeepSeek pre nedostatok informácií o spracovaní osobných údajov používateľov. V dôsledku toho bola aplikácia stiahnutá z talianskych obchodov Apple App Store a Google Play.

Prebudenie gigantov zo sladkej siesty

Spoločnosť DeepSeek so sídlom v Číne predstavila DeepSeek Coder ešte v novembri 2023. Hnaná ambíciou konkurovať popredným firmám zaoberajúcim sa umelou inteligenciou ponúkla svoj prvý voľne dostupný chatbot širokej verejnosti 20. januára 2025.

Premiéra DeepSeek priniesla najväčší prepad akcií technologických gigantov v histórii, keď ukázala „za menej peňazí je viacej muziky“ (rozumej – s nižšími nákladmi vyšší výkon). Spoločnosť Nvidia, ktorej hodnota za ostatné dva roky rástla k hviezdam, klesla sedem dní od uvedenia aplikácie DeepSeek o 18 percent.

Paradoxne v ten deň spoločnosť DeepSeek pozastavila registrácie nových používateľov pre „rozsiahle škodlivé útoky na svoje služby“. Detaily neboli zverejnené, ale predpokladá sa, že išlo o DDoS útoky.

Pozrime sa na deklaráciu open source

Hoci sa aplikácia DeepSeek často označuje ako open source, presnejšie ju možno opísať ako „open weight“. Čo znamená, že niektoré výstupy a aspekty sú verejne prístupné, ale základné tréningové údaje a kód potrebný na úplnú reprodukciu modelu zostávajú nezverejnené.

Spoločnosť OpenAI pohotovo obvinila DeepSeek, že na trénovanie svojho AI modelu využíva ChatGPT. Toto obvinenie je obzvlášť pozoruhodné, keďže OpenAI čelí kritike v prípade ChatGPT, že svoj model údajne trénuje s používaním externých údajov bez riadneho povolenia.

Tím portálu Datacamp si dal desať dní a najstručnejšie hodnotenie súperiacich LLM modelov zhrnul dvomi vetami: „DeepSeek zvyčajne dosahuje lepšie výsledky pri rýchlom generovaní kódu a technických úlohách, pričom poskytuje rýchlejšie odozvy na štruktúrované dotazy. ChatGPT ponúka podrobnejšie vysvetlenia a lepšiu dokumentáciu, vďaka čomu je ideálny na učenie a zložité implementácie.“

Po pravde a záverom

Bezpečnosť umelej inteligencie je kľúčovou výzvou v celom AI odvetví. O tom niet pochýb. Doterajšie výsledky však naznačujú, že jej bezpečnostné protokoly DeepSeek sú slabšie ako v OpenAI či Google.