Drizzle ORM là gì? ORM TypeScript hiệu năng cao thay thế Prisma
Drizzle ORM là gì? Drizzle ORM là thư viện ORM (Object-Relational Mapping) kiểu headless cho TypeScript và JavaScript, tập trung vào hiệu năng cực cao và trọng lượng thấp. Khác…
Xem thêm
SGLang là gì?
SGLang là gì? SGLang là framework serving engine dành cho LLM và multimodal models, được phát triển dưới dự án LMSYS. Framework này tập trung vào throughput cực cao và…
Xem thêm
LLM Inference Optimization: vLLM, TGI, llama.cpp, TensorRT-LLM so sánh chi tiết
LLM Inference Optimization: vLLM, TGI, llama.cpp, TensorRT-LLM so sánh chi tiết Sau khi huấn luyện xong LLM, phần tốn kém nhất là inference — chạy mô hình để sinh văn…
Xem thêm
Prompt Engineering Cơ Bản: Kỹ thuật tối ưu prompt cho LLM hiệu quả
Prompt Engineering Cơ Bản: Kỹ thuật tối ưu prompt cho LLM hiệu quả Prompt engineering là nghệ thuật viết hướng dẫn (prompt) để large language model (LLM) trả về kết…
Xem thêm
AI Chip War: NVIDIA, AMD, Intel và các startup cạnh tranh thị phần AI
AI Chip War: NVIDIA, AMD, Intel và các startup cạnh tranh thị phần AI AI Chip War: NVIDIA, AMD, Intel và các startup cạnh tranh thị phần AI Cuộc chiến…
Xem thêm
LoRA: Kỹ thuật fine-tuning LLM tiết kiệm 99% tham số
LoRA (Low-Rank Adaptation) là kỹ thuật điều chỉnh mô hình ngôn ngữ lớn (LLM) hiệu quả nhất hiện nay, cho phép fine-tuning các mô hình hàng tỷ tham số chỉ…
Xem thêm
Mojo ngôn ngữ lập trình: Kết hợp Python dễ dàng với C++ tốc độ cho AI
Mojo là gì? Tại sao ngôn ngữ mới này ra đời Mojo là ngôn ngữ lập trình được tạo bởi Modular AI, hướng đến mục tiêu kết hợp tính dễ…
Xem thêm
NVIDIA Blackwell: Kiến trúc chip AI mạnh nhất hiện nay
NVIDIA Blackwell là kiến trúc chip AI thế hệ mới nhất, được giới thiệu tại GTC 2024, đánh dấu bước nhảy 30 lần hiệu năng so với thế hệ Hopper…
Xem thêm
Ollama là gì? Chạy LLM nguồn mở cục bộ hoàn toàn miễn phí
Ollama là công cụ chạy mô hình ngôn ngữ lớn (LLM) trực tiếp trên máy tính cá nhân, hoàn toàn miễn phí, không cần GPU đắt tiền hay kết nối…
Xem thêm
Hono Framework là gì? Web framework edge siêu nhẹ chỉ 14KB
Hono Framework là gì? Hono (có nghĩa là “lửa” trong tiếng Nhật 🔥) là một web framework siêu nhẹ được xây dựng hoàn toàn trên Web Standards. Nó cho phép…
Xem thêm