Co pohání DijiFlow: srozumitelně o rozpoznávání řeči v zařízení a Apple Silicon
Apple Silicon4 min čtení

Co pohání DijiFlow: srozumitelně o rozpoznávání řeči v zařízení a Apple Silicon

Jak DijiFlow Dictate mění váš hlas v text na vašem vlastním počítači pomocí místních řečových modelů a Apple Silicon. Vysvětleno srozumitelně.

Diktování většinou působí jako kouzlo, dokud si nepoložíte zjevnou otázku: kam vlastně můj hlas putuje? U DijiFlow Dictate je poctivá odpověď: nikam. Promluvíte, text se objeví u kurzoru a ani jedno slovo nejde na server. Žádný účet a žádné odesílání zvuku či textu. Nejde o slib soukromí přilepený na konec: vyplývá to přímo z toho, jak je aplikace postavená.

Umožňují to tři dobře známé součásti: řečový model, který poslouchá, běhové prostředí, které ho na Macu efektivně spouští, a Apple Silicon, čip, díky kterému je vše okamžité. Nepotřebujete žádné předchozí znalosti: každou z nich vysvětlíme jednoduše.

  • ~34 MB
    stažení aplikace pro Mac
  • 300 MB–6 GB
    řečový model, stahuje se jednou
  • Neural Engine
    tady se odvádí skutečná práce

Řečový model: jak se ze zvuku stanou slova

Základem DijiFlow Dictate jsou modely pro rozpoznávání řeči, které běží na vašem vlastním počítači. Řečový model je zjednodušeně řečeno velmi rozsáhlý systém na rozpoznávání vzorů, natrénovaný na obrovském množství zvuku s přepisem. Z těchto dat se naučí, jak zvuky, které lidé vydávají, odpovídají slovům, která tím myslí, a to u různých přízvuků, při hluku v pozadí i s přirozenými pauzami skutečné řeči.

Když diktujete, model ze zvuku z mikrofonu odhaduje nejpravděpodobnější sled slov, a umí to opravdu dobře. U zřetelné řeči dosahuje přesnosti kolem 98 % a DijiFlow Dictate přepisuje 29 jazyků s plnou podporou a rozpozná 90+ s automatickou detekcí. Protože vnímá kontext a neporovnává slovo po slovu, poradí si i s tím, jak neuspořádaně lidé ve skutečnosti mluví.

Proč se model stahuje zvlášť

Mnoho lidí to překvapí: aplikace a „inteligence“ jsou dva různé soubory. Na Macu je samotný DijiFlow Dictate malý, kolem 34 MB. Objemné jsou řečové modely, podle zvoleného modelu zhruba 300 MB až 6 GB. Ve verzi Pro a ve zkušební verzi je nejpřesnější model „Velký“, model „Expres“ se mu blíží a je rychlejší a model „Rychlý“ je nejrychlejší, v 16 jazycích včetně angličtiny; bezplatná verze používá modely „Standardní“ a „Vylepšený“. Vyberete si tu rovnováhu rychlosti a přesnosti, která vám vyhovuje.

Model stáhnete jednou a pak už přepis internet vůbec nepotřebuje. Právě díky tomuto jednorázovému kroku může váš hlas zůstat ve vašem počítači.

Běhové prostředí: jak model běží efektivně

Řečový model je užitečný, jen když běží rychle a nevybíjí baterii. O to se stará běhové prostředí, vrstva, která spouští modely strojového učení přímo v zařízení. Představte si ho jako tlumočníka a dispečera zároveň: vezme řečový model a rozhodne, jak ho spustit na nejvhodnějších částech vašeho hardwaru.

Na Macu jsou řečové modely DijiFlow Dictate zkompilované pro vlastní framework strojového učení od Applu, který je součástí macOS. To znamená, že model je optimalizovaný přímo pro hardware Applu, místo aby běžel jako obecný, pomalejší kód, takže diktování drží krok s přirozenou řečí a přitom šetří systémové prostředky. A celé to probíhá lokálně: tento framework není cloudová služba. Je to součást operačního systému, díky které mohou aplikace spouštět modely strojového učení soukromě přímo v zařízení.

Apple Silicon: čip, díky kterému je vše okamžité

Poslední součástí je hardware. Na moderních Macích to znamená Apple Silicon, tedy čipy řady M v počítačích s macOS 14 nebo novějším. Tyto čipy mají vyhrazený Neural Engine, část čipu navrženou přímo pro rychlý běh modelů strojového učení při velmi nízké spotřebě, a když je potřeba víc výkonu, přes Metal pomůže i GPU.

Nic z toho nenastavujete. Framework sám rozdělí práci mezi vhodné části hardwaru, vy jen mluvíte a čip vše zvládne v reálném čase. To je nenápadná výhoda zpracování přímo v zařízení: stejný čip, díky kterému je váš Mac svižný, dělá soukromé diktování praktickým.

Celý postup, od začátku do konce

Seřaďte ty tři součásti za sebou a uvidíte, že celá cesta je krátká a nikdy neopustí váš počítač.

  1. Promluvíte

    Zvuk z mikrofonu se nahrává v zařízení a nikam se neodesílá.

  2. Řečový model běží na Neural Engine

    Model převede zvuk na slova přímo na čipu Apple Silicon, v reálném čase.

  3. Text se objeví u kurzoru

    Vaše slova se objeví v té aplikaci, ve které už jste. Nikam se neodesílají, takže nic nemůže uniknout.

Co si odnést

Model běží ve vašem počítači, takže přepis je jen lokální výpočet. Mezi tím není žádný server, který by váš hlas ukládal, zachytával nebo potichu uchovával.

Jednou stáhnete, pak přepisujete přímo v zařízení

Většina hlasových nástrojů je ve skutečnosti cloudová služba převlečené za aplikaci: pokaždé potřebují připojení a účet, protože model, který vám rozumí, běží na cizím hardwaru. DijiFlow Dictate to dělá opačně: jednou nainstalujete a práci odvede váš čip.

Jak se chová DijiFlow (v zařízení) Cloudové diktování
Funguje po jednorázovém stažení ✓ ✗
Přepisuje bez internetu ✓ ✗
Není nutný účet ✓ ✗
Zvuk zůstává ve vašem zařízení ✓ ✗

A za hranice Macu

Stejný přístup funguje i ve Windows 10 a 11, kde DijiFlow Dictate běží na grafických kartách AMD, Intel i NVIDIA. Karty NVIDIA potřebují CUDA a aktuální ovladač, ale princip je stejný: řeč se přepisuje lokálně a váš hlas ani text se nikam neodesílají.

Žádný trik, jen dobrá technika

Nic exotického se tu neděje. DijiFlow Dictate stojí na otevřené a dobře známé technologii: řečové modely poslouchají, framework strojového učení od Applu tvoří běhové prostředí a Apple Silicon poskytuje hardware. Klíčové rozhodnutí je mít všechno ve vašem zařízení, takže získáte pohodlí moderního diktování, aniž byste kdy komukoli předali svůj hlas, v bezplatné verzi, ve zkušební verzi i ve verzi Pro.

Pokud si to chcete raději vyzkoušet, než o tom číst, můžete soukromé diktování přímo v zařízení 30 dní zdarma vyzkoušet ve verzi Pro.

DijiFlow DictateDijiFlow Dictate

Tým DijiFlow Dictate

Postřehy o soukromém diktování přímo v zařízení a o tom, jak hlasem zvládnete víc.