V5 · skúšobná verzia

Slovenskovseobecne·3 minAnalýza

SlovakBERT pre podobnosť viet: čo dokumentuje embeddingový model TUKE a Deutsche Telekom

Model slovakbert-skquad-mnlr vytvára vektory textu na základe slovenského SlovakBERT-u. Dokumentácia uvádza 768 rozmerov a limit 300 tokenov; vhodnosť pre konkrétne vyhľadávanie si vyžaduje vlastné meranie.

Od slovenského jazykového modelu k vektorom

V repozitári TUKE-DeutscheTelekom je dostupný model slovakbert-skquad-mnlr, ktorého karta ho opisuje ako SentenceTransformer založený na gerulata/slovakbert. Ide o konkrétny slovenský technologický podklad pre porovnávanie textov. Tento prehľad zachytáva dokumentáciu dostupnú 11. októbra 2026; netvrdí, že model vznikol alebo bol vydaný práve teraz.

Základný SlovakBERT od Gerulata Technologies je model pre slovenský jazyk s úlohou dopĺňania maskovaných slov. Jeho karta odporúča dolaďovanie na nadväzujúce úlohy a upozorňuje na rozlišovanie veľkých a malých písmen. Základný model a jeho embeddingová úprava preto plnia odlišné úlohy.

Parametre, ktoré ovplyvnia vyhľadávací index

Karta modelu TUKE-DeutscheTelekom uvádza maximálnu dĺžku vstupu 300 tokenov, výstupný vektor so 768 rozmermi a kosínusovú podobnosť. Architektúra používa priemerovanie reprezentácií tokenov. Tréningová časť opisuje 65 699 vzoriek a funkciu MultipleNegativesRankingLoss. Tieto údaje charakterizujú publikovaný model; samy o sebe nedokazujú kvalitu výsledkov na firemných dokumentoch.

Praktický dôsledok limitu vstupu: dlhý dokument nemožno bez kontroly považovať za jeden plne zastúpený vektor. Redakčné odporúčanie je rozdeliť dokumenty na významové úseky, uchovať ich väzbu na originál a výsledok ukazovať spolu s názvom dokumentu.

Licencia a spracovanie slovenského textu

Karta základného gerulata/slovakbert uvádza licenciu MIT. Zároveň dokumentuje obmedzenie pri konkrétnych typografických úvodzovkách a odporúča ich normalizáciu pred tokenizáciou. Pri integrácii je preto vhodné sledovať aj predspracovanie, nielen samotný súbor váh.

Licenciu základného modelu však nemožno bez kontroly preniesť ako tvrdenie na každý odvodený repozitár alebo použitý dataset. Tento článok potvrdzuje MIT pre základný SlovakBERT; licenčné podmienky celého odvodeného riešenia samostatne necertifikuje.

Čo by mal obsahovať vlastný test

Pre tím, ktorý model zvažuje, odporúčame malý súbor slovenských otázok s ručne určenými relevantnými dokumentmi, porovnanie s kľúčovými slovami a meranie času odozvy. Užitočné sú aj otázky s diakritikou, skloňovaním a názvami produktov.

Redakcia pri príprave tohto článku uvedený model nespúšťala. Neuvádzame preto vlastnú presnosť ani poradie voči iným embeddingovým modelom. Dokumentovaná architektúra je východisko pre overenie použiteľnosti, nie náhrada testu na dátach konkrétnej aplikácie.

Technický kontext

Stav overenia: Spracované podľa zdroja; redakcia postup nereprodukovala.

Verzie: Zdroj neuvádza konkrétne verzie.

Podmienky použitia: Posúďte podľa podmienok projektu.

Obmedzenia: Dokumentačný prehľad, nie nové oznámenie ani vlastný benchmark; licencia odvodeného modelu sa neodvodzuje automaticky z licencie základu.

Zdroje

  1. TUKE-DeutscheTelekom — modelová karta ↗
  2. Gerulata Technologies — SlovakBERT ↗