Trénujete modely od nuly, nebo jen dotrénováváte hotové?

Obojí, podle úlohy. U jazykových modelů skoro vždy stačí dotrénování (fine-tuning) hotového open-source modelu na vaší terminologii a datech, protože je řádově levnější. Trénování od základu dává smysl u specifických úloh strojového učení a počítačového vidění nad vlastními daty. Vždy nejdřív ověříme, jestli jednodušší cesta nestačí.