Prompt Engineering là gì?
Prompt Engineering là nghệ thuật viết câu lệnh (prompt) để đưa vào mô hình ngôn ngữ lớn (LLM) nhằm nhận kết quả chính xác, hữu ích nhất. Vì LLM dựa vào ngữ cảnh đầu vào để sinh văn bản, cách bạn đặt câu hỏi quyết định chất lượng câu trả lời. Một prompt tốt giúp AI hiểu đúng ý định, giảm hallucination và tiết kiệm chi phí token.
Khi LLM chỉ dựa trên dữ liệu huấn luyện tĩnh, prompt chính là bộ nhớ ngoài tạm thời giúp mô hình tiếp cận kiến thức mới. Người dùng có thể cung cấp tài liệu, quy tắc hoặc ví dụ ngay trong prompt để AI tham chiếu khi trả lời.
Các kỹ thuật prompt cơ bản
Zero-shot prompting gửi câu hỏi trực tiếp không kèm ví dụ. Phù hợp khi câu hỏi đơn giản hoặc kiến thức phổ biến. LLM dùng kiến thức nội bộ để trả lời ngay. Ví dụ: “Giải thích nguyên lý hoạt động của pin lithium-ion trong 3 câu.”
Few-shot prompting cung cấp 1-5 ví dụ mẫu trước câu hỏi thực tế. Mô hình học từ pattern trong ví dụ để định dạng đầu ra đúng yêu cầu. Kỹ thuật này tăng độ ổn định đáng kể so với zero-shot, đặc biệt khi cần kết quả theo cấu trúc cố định.
Chain-of-thought (CoT) yêu cầu AI suy luận từng bước thay vì nhảy thẳng đến kết luận. Thêm cụm “hãy suy nghĩ từng bước” vào prompt giúp mô hình giải quyết bài toán logic, mã lệnh hoặc phân tích phức tạp tốt hơn nhiều. Nhiều nghiên cứu chỉ ra CoT giảm lỗi số học và logic ở các LLM lớn.
Prompt engineering cho code generation
Khi dùng LLM viết code, prompt nên ghi rõ ngôn ngữ, phiên bản, ràng buộc hệ thống và định dạng đầu ra mong muốn. Ví dụ: “Viết hàm Python 3.11 tính tổng dãy số Fibonacci dùng đệ quy có nhớ, trả về dict {‘result’: int, ‘steps’: list}, không dùng thư viện bên ngoài.”
Prompt cũng nên giới hạn phạm vi: “Chỉ sửa bug trong hàm process_data bên dưới, không viết lại toàn bộ module.” Cách này giúp AI tập trung vào đoạn cần sửa, giảm nguy cơ phá hỏng code xung quanh. Khi kết hợp với Retrieval-Augmented Generation, hệ thống có thể truy xuất tài liệu dự án để AI đưa ra patch chính xác hơn.
Một mẹo khác là yêu cầu AI đưa ra unit test kèm code. Prompt: “Sau khi viết hàm, tạo ít nhất 3 trường hợp test cover happy path, edge case và lỗi đầu vào.” Điều này buộc LLM phải kiểm tra logic trước khi sinh code cuối.
Công cụ hỗ trợ prompt engineering
LangChain LlamaIndex cung cấp template prompt có thể tái sử dụng, giúp thống nhất giọng văn và cấu trúc đầu ra giữa các lần gọi AI. Bạn có thể đặt system prompt cố định rồi chỉ thay đổi user prompt theo tác vụ cụ thể.
Promptfoo là công cụ mã nguồn mở chuyên benchmark prompt. Nó chạy bộ test tự động trên nhiều mô hình, ghi điểm độ chính xác, thời gian phản hồi và chi phí token. Kết quả giúp bạn so sánh hiệu năng giữa các prompt khác nhau trước khi đưa vào sản xuất.
OpenAI Playground và Anthropic Console cho phép tinh chỉnh tham số như temperature, top_p và max_tokens trực tiếp trên giao diện. Bạn có thể lưu prompt template, chia sẻ với team và theo dõi lịch sử phiên làm việc để tái tạo kết quả.
Lỗi thường gặp và cách khắc phục
Prompt mơ hồ là nguyên nhân hàng đầu dẫn đến câu trả lời lạc đề. Thay vì “viết bài về bảo mật”, hãy viết “viết bài 800 từ về 5 mẹo bảo vệ tài khoản Zalo khỏi lừa đảo, người đọc là sinh viên năm nhất chưa có kinh nghiệm.” Càng cụ thể, AI càng bám sát yêu cầu.
Prompt quá dài cũng gây vấn đề. LLM có ngữ cảnh giới hạn (context window), nên thông tin thừa sẽ chiếm chỗ token hữu ích. Tóm tắt tài liệu tham khảo trước khi nhét vào prompt, hoặc dùng RAG để truy xuất đoạn liên quan thay vì paste toàn bộ văn bản.
Prompt bị bias từ ví dụ mẫu. Khi few-shot dùng 3 ví dụ cùng pattern, LLM có thể cứng nhắc áp dụng pattern đó vào mọi trường hợp, kể cả ngoại lệ. Cân bằng ví dụ đa dạng hoặc kết hợp với zero-shot để mô hình linh hoạt hơn.
Ứng dụng thực tế
Doanh nghiệp dùng prompt engineering để tự động hóa báo cáo, phân tích đánh giá khách hàng và trả lời ticket hỗ trợ. Chatbot nội bộ với prompt rõ ràng giúp nhân viên tìm quy chế, chính sách nhanh mà không cần tra cứu hàng loạt trang nội bộ.
Ngành giáo dục áp dụng prompt để tạo bài tập cá nhân hóa theo trình độ học sinh. Giáo viên nhập đề bài, yêu cầu độ khó và dạng câu hỏi, AI sinh ra bộ câu hỏi phù hợp. Cách này tiết kiệm thời gian so với viết thủ công từng đề.
Lĩnh vực nghiên cứu khoa học dùng prompt tóm tắt hàng loạt báo cáo, trích xuất số liệu thống kê và so sánh phương pháp giữa các bài báo. Prompt được thiết kế theo dạng bảng để AI liệt kê rõ mục tiêu, phương pháp, kết quả và hạn chế của từng công trình.
Tương lai của prompt engineering
Các mô hình mới như Claude và GPT-4 đã giảm phụ thuộc vào prompt hoàn hảo nhờ khả năng hiểu ngữ cảnh tốt hơn. Tuy nhiên, prompt engineering vẫn là kỹ năng cốt lõi vì nó kiểm soát chi phí token, độ an toàn và phạm vi ứng dụng. Tương lai, prompt sẽ càng trở thành giao diện giữa người và hệ thống AI tự động.
Tiêu chuẩn hóa prompt là xu hướng mới. Nhiều công ty xây dựng prompt library nội bộ, chia sẻ template qua Git để toàn bộ team dùng chung cấu hình đã tối ưu. Cách này giảm lỗi do prompt thủ công và đảm bảo output nhất quán.
Bạn có thể tham khảo thêm hướng dẫn prompt engineering từ Anthropic và OpenAI, cũng như các công cụ mã nguồn mở như Promptfoo để benchmark prompt của riêng mình.
Tham khảo thêm
Bạn có thể tìm hiểu thêm về prompt engineering từ các nguồn chính thức:
