Monte Carlo Tree Search là gì?
Monte Carlo Tree Search là gì? Monte Carlo Tree Search (MCTS) là thuật toán tìm kiếm cây quyết định dựa trên mô phỏng Monte Carlo, được thiết kế đặc biệt…
Xem thêm
RAG Evaluation: Đánh Giá Chất Lượng Retrieval Augmented Generation
Retrieval Augmented Generation (RAG) là kiến trúc kết hợp tìm kiếm thông tin từ cơ sở dữ liệu ngoài và sinh nội dung bằng mô hình ngôn ngữ lớn. Thay…
Xem thêm
LLM context window: kỹ thuật mở rộng ngữ cảnh cho mô hình AI
Context window là gì? Context window (cửa sổ ngữ cảnh) là số token tối đa mà một mô hình ngôn ngữ lớn (LLM) có thể xử lý cùng trong một…
Xem thêm
Structured Output trong LLM: JSON Mode, Tool Use và Schema Enforcement
Structured output đang trở thành tính năng quan trọng nhất khi tích hợp LLM vào ứng dụng thực tế. Thay vì để model trả về văn bản tự do rồi…
Xem thêm
SGLang là gì?
SGLang là gì? SGLang là framework serving engine dành cho LLM và multimodal models, được phát triển dưới dự án LMSYS. Framework này tập trung vào throughput cực cao và…
Xem thêm
LangGraph: Framework AI Agent trạng thái dựa trên đồ thị
LangGraph là gì? LangGraph là framework mã nguồn mở do LangChain AI phát triển, chuyên dụng để xây dựng các AI Agent có trạng thái phức tạp. Khác với các…
Xem thêm
LLM Inference Optimization: vLLM, TGI, llama.cpp, TensorRT-LLM so sánh chi tiết
LLM Inference Optimization: vLLM, TGI, llama.cpp, TensorRT-LLM so sánh chi tiết Sau khi huấn luyện xong LLM, phần tốn kém nhất là inference — chạy mô hình để sinh văn…
Xem thêm
Prompt Engineering Cơ Bản: Kỹ thuật tối ưu prompt cho LLM hiệu quả
Prompt Engineering Cơ Bản: Kỹ thuật tối ưu prompt cho LLM hiệu quả Prompt engineering là nghệ thuật viết hướng dẫn (prompt) để large language model (LLM) trả về kết…
Xem thêm
LoRA: Kỹ thuật fine-tuning LLM tiết kiệm 99% tham số
LoRA (Low-Rank Adaptation) là kỹ thuật điều chỉnh mô hình ngôn ngữ lớn (LLM) hiệu quả nhất hiện nay, cho phép fine-tuning các mô hình hàng tỷ tham số chỉ…
Xem thêm
Qwen-Agent: Framework AI Agent Đa Công Cụ Từ Alibaba Hỗ Trợ RAG Và Tool Calling
Qwen-Agent là gì? Qwen-Agent là framework mã nguồn mở để phát triển ứng dụng LLM (Large Language Model), được phát triển bởi đội ngũ Qwen thuộc Alibaba Group. Framework này…
Xem thêm