Co znamená vektorové vyhledávání?
Představ si to takhle:
Starý způsob (fulltext): Agent hledá přesná slova. Zákazník se zeptá "jaká je bezpečná vzdálenost?" → hledá "bezpečná" a "vzdálenost" v textu dokumentů. Pokud dokument používá slovo "bezpečnostní" místo "bezpečná", nenajde ho. A když najde, pošle celý dokument (třeba 2000 slov) do Claude → drahé, pomalé.
Nový způsob (vector search): Každý dokument je rozřezaný na menší kousky (chunky, ~350 slov). Každý chunk je převedený na čísla (vektor — 1536 čísel), která reprezentují význam textu, ne konkrétní slova. Dotaz zákazníka se taky převede na vektor. Pak se porovná "vzdálenost" mezi vektorem dotazu a vektory chunků — čím bližší, tím relevantnější.
Prakticky:
- "bezpečná vzdálenost" najde chunk o "minimální bezpečnostní vzdálenosti 15 m" i když slova přesně nesedí
- Agent dostane jen 5 nejrelevantnějších kousků (~1500 slov) místo celých dokumentů (~10000 slov)
- Méně tokenů = levnější, rychlejší, přesnější odpovědi
Tok: dokument → rozřezat na chunky → OpenAI převede na vektory → uloží do DB → zákazník se zeptá → dotaz se převede na vektor → porovná se se všemi chunky → top 5 jde agentovi jako kontext.