Kiến trúc engine vLLM với PagedAttention

vLLM: Công cụ serving LLM siêu tốc, tiết kiệm bộ nhớ GPU

vLLM: Công cụ serving LLM siêu tốc, tiết kiệm bộ nhớ GPU vLLM là một engine suy diễn và phục vụ LLM (large language model) nhanh và tiết kiệm bộ…

Xem thêm
Cụm vệ tinh Starlink trên quỹ đạo LEO

Starlink vs Amazon Leo: Cuộc chạm trán mạng internet vệ tinh Low-Earth Orbit

Starlink vs Amazon Leo: Cuộc chạm trán mạng internet vệ tinh Low-Earth Orbit Starlink của SpaceX và Amazon Leo (trước đây Project Kuiper) của Amazon đang dẫn đầu cuộc chạy…

Xem thêm

Zed Editor: Trình soạn thảo mã hiệu suất cao viết bằng Rust cho macOS/Linux

Zed Editor: Trình soạn thảo mã hiệu suất cao viết bằng Rust cho macOS/Linux Zed là code editor thế hệ mới, phát hành 1.0 vào tháng 1/2024, được xây dựng…

Xem thêm

Phi-3.5 Mini: Mô hình AI nhỏ 3.8B vượt trội từ Microsoft

Phi-3.5 Mini: Mô hình AI nhỏ 3.8B vượt trội từ Microsoft Phi-3.5 Mini là mô hình ngôn ngữ nhỏ (SLM) mới nhất từ Microsoft Research, sở hữu 3,8 tỷ tham…

Xem thêm

Feather Robotics: Nền tảng robot mô-đun giá 30k USD cho developer

Feather Robotics, khởi nghiệp humanoid do cựu kỹ sư Tesla và founder trước của 1X thành lập, đang định vị mình là “Android of robotics” — cung cấp nền tảng…

Xem thêm

PrismML đưa tiny LLM lên kính thông minh Snapdragon: AI cục bộ thay cloud

PrismML, một khởi nghiệp AI do các nhà nghiên cứu Caltech thành lập, vừa tung ra phiên bản mô hình ngôn ngữ siêu nhỏ (tiny LLM) chạy trực tiếp trên…

Xem thêm
Giao diện Cursor AI Editor hiển thị chat sidebar và code editor

Cursor AI Editor là gì? Tác nhân AI code révolutionizes phát triển phần mềm

Cursor AI Editor là gì? Cursor AI Editor là trình soạn thảo mã nguồn mở được xây dựng trên nền tảng VS Code, tích hợp sâu các mô hình ngôn…

Xem thêm

AI Agent Orchestration: CrewAI vs AutoGen vs LangGraph So Sánh Chi Tiết

AI Agent Orchestration: CrewAI vs AutoGen vs LangGraph So Sánh Chi Tiết AI Agent Orchestration đang trở thành xu hướng phát triển mạnh mẽ nhất trong hệ sinh thái AI…

Xem thêm

Apple Intelligence iOS 27/macOS Tahoe: Tính Năng AI Bản Địa Mạnh Nhất Lịch Sử

Apple Intelligence iOS 27/macOS Tahoe: Tính Năng AI Bản Địa Mạnh Nhất Lịch Sử iPhone/Mac Apple Intelligence (tích hợp Siri AI) ra mắt trên iOS 27, iPadOS 27, macOS Tahoe…

Xem thêm

LangGraph: Xây Dựng Workflow Multi-Agent Cho AI Agent Phức Tạp

LangGraph: Xây Dựng Workflow Multi-Agent Cho AI Agent Phức Tạp LangGraph là framework điều phối agent mức thấp (low-level orchestration framework) từ LangChain, cho phép developer xây dựng, quản lý…

Xem thêm