Bàn thử AI / ưu tiên trình tạo

Công cụ AI và LLM.

Dành cho những người xây dựng với mô hình ngôn ngữ và những người có trang web được các mô hình đó đọc: định hình prompt và lược đồ công cụ, sửa JSON mô hình trả về, xem tài liệu được chia thành các đoạn để truy xuất như thế nào, và quyết định trình thu thập AI nào được phép đọc các trang của bạn. Nhóm công cụ cuối chạy các mô hình nhỏ trong trình duyệt, nên ảnh hoặc bản quét không bao giờ rời khỏi thiết bị của bạn.

13công cụ đang hoạt động
sẵn sàng ngay
01

Xây dựng với LLM

Prompt, lược đồ gọi công cụ và đầu ra có cấu trúc mà mô hình gửi về.

02

Giúp trang web dễ đọc với AI

Trình thu thập AI có thể lấy gì và chúng tìm thấy gì khi truy cập.

03

AI trên thiết bị của bạn

Các mô hình chạy trong thẻ trình duyệt, nên tệp không bao giờ được tải lên.

Tạo đầu ra có thể phân tích

Hầu hết lỗi trong một tính năng LLM không phải là câu trả lời sai mà là câu trả lời không dùng được: phản hồi bị bọc trong văn xuôi, dấu phẩy thừa ở cuối, khóa dùng dấu nháy đơn hoặc đối tượng bị cắt khi hết giới hạn token. Hãy mô tả cấu trúc bạn muốn bằng JSON Schema — trình tạo JSON sang JSON Schema sẽ tạo một lược đồ từ mẫu — rồi truyền lược đồ đó cho tính năng đầu ra có cấu trúc hoặc gọi công cụ của mô hình thay vì yêu cầu JSON trong văn xuôi.

Khi phản hồi vẫn bị lỗi, công cụ sửa JSON của LLM sẽ sửa các lỗi cơ học, bộ chuyển đổi đối tượng JS sang JSON xử lý các ký tự kiểu JavaScript, còn công cụ xác thực JSON Schema xác nhận kết quả khớp lược đồ trước khi mã của bạn dựa vào đó. Trình tạo system prompt giữ hướng dẫn và định nghĩa công cụ liên quan trong một định dạng nhất quán.

Chia đoạn để truy xuất

Hệ thống truy xuất trả lời dựa trên những đoạn tìm được, nên cách chia quyết định mô hình có thể nhìn thấy gì. Đoạn quá nhỏ sẽ mất câu mang lại ý nghĩa; đoạn quá lớn chôn dòng liên quan giữa những dòng không liên quan và tốn thêm chi phí nhúng, gửi đi. Phần chồng lấn giúp tìm thấy một câu vượt qua ranh giới từ cả hai phía, đổi lại câu đó được lưu hai lần.

Công cụ chia đoạn văn bản RAG cho biết chính xác tài liệu bị ngắt ở đâu với kích thước và độ chồng lấn nhất định; cách này nhanh hơn việc lần ngược một câu trả lời kém đến đoạn đã gây ra vấn đề.

Quyết định trình thu thập AI được đọc gì

Trình thu thập dữ liệu huấn luyện, trình thu thập tìm kiếm AI và các yêu cầu lấy dữ liệu thay mặt người dùng dùng những token User-agent khác nhau, nên trang web có thể từ chối huấn luyện mà vẫn xuất hiện trong câu trả lời AI. Công cụ kiểm tra trình thu thập AI đọc robots.txt của một trang web để đối chiếu với mười token đó và giải thích từng token; công cụ kiểm tra robots.txt hiển thị toàn bộ tệp.

Với những trang bạn muốn được đọc, tệp llms.txt hướng mô hình đến các tài liệu hữu ích nhất, còn dữ liệu có cấu trúc nêu rõ trang nói về điều gì. Không công cụ nào là sự bảo đảm, nhưng cả hai đều tốn rất ít chi phí.

Mô hình ở lại trong trình duyệt

Các công cụ OCR và ảnh chạy mô hình ngay bên trong trang. Lần đầu sử dụng sẽ tải mô hình xuống — vài megabyte — sau đó việc xử lý diễn ra trên bộ xử lý của thiết bị: hợp đồng được quét, ảnh hộ chiếu hoặc ảnh chụp màn hình được đọc và xử lý mà không tải lên bất cứ đâu.

Đổi lại là tốc độ trên thiết bị cũ và giới hạn của mô hình nhỏ. Hình ảnh sang văn bản và PDF được quét sang văn bản xử lý tốt văn bản in nhưng kém chữ viết tay; trình tạo ảnh hộ chiếu tự động tìm khuôn mặt và nền nhưng vẫn yêu cầu bạn đối chiếu kết quả với quy định của quốc gia mình.