AI radni sto / prvo izrada

AI i LLM alati.

Za ljude koji grade uz pomoć jezičkih modela i za one čije sajtove ti modeli čitaju: oblikujte promptove i šeme alata, popravite JSON koji model vrati, pogledajte kako se dokument deli za pretragu i odlučite koji AI crawleri smeju da čitaju vaše stranice. Poslednja grupa pokreće male modele u vašem pregledaču, pa fotografija ili sken nikada ne napuštaju vaš uređaj.

13funkcionalnih alata
spremno odmah
01

Gradite uz LLM-ove

Promptovi, šeme za pozivanje alata i strukturirani izlaz koji model vraća.

02

Učinite sajt čitljivim za AI

Šta AI crawleri mogu da preuzmu i šta pronalaze kada to urade.

03

AI na vašem uređaju

Modeli koji rade u kartici pregledača, pa se datoteka nikada ne otprema.

Kako dobiti izlaz koji možete da obradite

Većina problema u LLM funkciji nisu pogrešni odgovori, već neupotrebljivi: odgovor obavijen prozom, zarez na kraju, ključ u jednostrukim navodnicima ili objekat prekinut kada se potroši ograničenje tokena. Opišite željeni oblik kao JSON Schema — generator za pretvaranje JSON-a u JSON Schema generiše je iz primera — i prosledite je modelu kroz funkciju strukturiranog izlaza ili pozivanja alata, umesto da tražite JSON u proznom tekstu.

Ako odgovor ipak stigne oštećen, alat za popravku LLM JSON-a ispravlja mehaničke greške, konverter JS objekta u JSON obrađuje literale u JavaScript stilu, a validator JSON Schema potvrđuje da se rezultat podudara pre nego što se vaš kod osloni na njega. Generator sistemskog prompta drži uputstva i definicije alata za sve ovo u jednom doslednom formatu.

Segmentacija za pretragu

Sistem za pretragu odgovara na osnovu pronađenih segmenata, pa podela određuje šta model može da vidi. Premali segmenti gube rečenicu koja im daje značenje; preveliki zatrpavaju relevantni red nepovezanim sadržajem i zahtevaju više prostora i podataka za ugrađivanje i slanje. Preklapanje omogućava da se rečenica koja prelazi granicu pronađe sa obe strane, uz cenu njenog čuvanja dva puta.

RAG alat za segmentaciju teksta tačno pokazuje gde se dokument deli za određenu veličinu i preklapanje, što je brže nego vraćanje lošeg odgovora do podele koja ga je izazvala.

Odlučivanje šta AI crawleri čitaju

Crawleri za obuku, crawleri AI pretrage i preuzimanja u ime korisnika koriste različite User-agent tokene, pa sajt može da odbije obuku, a da ostane vidljiv u AI odgovorima. Provera AI crawlera čita robots.txt sajta u odnosu na njih deset i objašnjava svaki; provera robots.txt prikazuje celu datoteku.

Za stranice koje želite da budu pročitane, llms.txt datoteka upućuje modele na najkorisnije dokumente, a strukturirani podaci jasno navode o čemu je stranica. Ni jedno ni drugo nije garancija, ali oba zahtevaju malo truda.

Modeli koji ostaju u pregledaču

OCR i alati za fotografije pokreću svoje modele unutar stranice. Prva upotreba preuzima model — nekoliko megabajta — a nakon toga se obrada odvija na vašem procesoru: skenirani ugovor, fotografija pasoša ili snimak ekrana čitaju se i obrađuju bez otpremanja bilo gde.

Kompromis su manja brzina na starijim uređajima i ograničenja malog modela. Slika u tekst i skenirani PDF u tekst dobro obrađuju štampani tekst, ali loše rukopis; alat za fotografiju za pasoš automatski pronalazi lice i pozadinu, ali i dalje traži da proverite rezultat u skladu sa pravilima svoje zemlje.