Anthropic đang có một tháng
Anthropic đã xây dựng danh tính công chúng của mình xung quanh ý tưởng chiến thắng rằng đó là công ty AI cẩn thận.
Nó xuất bản công trình chi tiết về rủi ro AI, tuyển dụng một số nhà nghiên cứu giỏi nhất trong lĩnh vực này và đã lên tiếng về trách nhiệm đi kèm với việc xây dựng công nghệ mạnh mẽ như vậy – tất nhiên là nó đang đấu tranh với Bộ Quốc phòng.
Vào thứ Ba, than ôi, có người ở đó quên đánh dấu vào một ô.
Đáng chú ý, đây là lần thứ hai trong một tuần.
Thứ Năm tuần trước, Fortune đưa tin rằng Anthropic đã vô tình công khai gần 3.000 tệp nội bộ, bao gồm cả một bài đăng blog nháp mô tả một mô hình mới mạnh mẽ mà công ty vẫn chưa công bố.
Đây là những gì đã xảy ra vào thứ Ba: Khi Anthropic tung ra phiên bản 2.1.88 của gói phần mềm Claude Code, nó đã vô tình đưa vào một tệp làm lộ ra gần 2.000 tệp mã nguồn và hơn 512.000 dòng mã – về cơ bản là bản thiết kế kiến trúc đầy đủ cho một trong những sản phẩm quan trọng nhất của hãng.
Một nhà nghiên cứu bảo mật tên Chaofan Shou gần như đã chú ý ngay lập tức và đăng về nó trên X.
Tuyên bố của Anthropic với nhiều cửa hàng là thờ ơ khi những điều này diễn ra: “Đây là sự cố đóng gói phát hành do lỗi của con người, không phải do vi phạm an ninh”.
Đó là một công cụ dòng lệnh cho phép các nhà phát triển sử dụng AI của Anthropic để viết và chỉnh sửa mã và đã trở nên đủ mạnh để khiến các đối thủ phải lo lắng.
Theo WSJ, OpenAI đã ngừng sản xuất sản phẩm tạo video Sora chỉ sáu tháng sau khi ra mắt công chúng để tập trung lại nỗ lực vào các nhà phát triển và doanh nghiệp – một phần để đáp lại đà phát triển của Claude Code.
Thứ bị rò rỉ không phải là bản thân mô hình AI mà là phần mềm xung quanh nó – các hướng dẫn cho mô hình biết cách ứng xử, sử dụng công cụ nào và giới hạn của nó ở đâu.
Các nhà phát triển bắt đầu xuất bản các phân tích chi tiết gần như ngay lập tức, trong đó có một phân tích mô tả sản phẩm là “trải nghiệm dành cho nhà phát triển cấp sản xuất, không chỉ là phần bao bọc xung quanh API”.
Đối thủ cạnh tranh có thể thấy kiến trúc mang tính hướng dẫn;
Dù thế nào đi nữa, ở đâu đó tại Anthropic, bạn có thể tưởng tượng rằng một kỹ sư rất tài năng đã dành cả ngày còn lại để lặng lẽ tự hỏi liệu họ còn việc làm hay không.
Người ta chỉ có thể hy vọng đó không phải là kỹ sư hoặc nhóm kỹ thuật giống như vào cuối tuần trước.
