Trong cuộc đua không ngừng nghỉ của trí tuệ nhân tạo (AI), một mục tiêu cốt lõi mà các nhà phát triển đang hướng tới là tối ưu hóa để các mô hình ngôn ngữ lớn (LLM) có thể hoạt động hiệu quả trên những phần cứng có sức mạnh yếu nhất, với chi phí thấp nhất. Càng ít đòi hỏi về phần cứng, lượng điện năng tiêu thụ để vận hành LLM càng giảm đi. Nhưng sẽ thế nào nếu chúng ta cố gắng đưa một mô hình AI lên một thiết bị phần cứng ra đời từ năm 1982?
Đó chính xác là những gì Maciej Witkowiak đang nỗ lực thực hiện với dự án mang tên “Llama2.c64”. Mục tiêu của dự án này là đưa một mô hình AI đơn giản lên chiếc máy tính Commodore 64, một thiết bị ra đời rất lâu trước khi khái niệm LLM được hình thành. Dù chắc chắn Llama2.c64 sẽ không thể cạnh tranh với các siêu AI hiện đại như GPT-4o, đây vẫn là một thành tựu kỹ thuật vô cùng ấn tượng.
Llama2.c64: Nỗ Lực Đưa Trí Tuệ Nhân Tạo Lên Phần Cứng Cổ Điển
Theo thông tin ban đầu từ Hackaday, Maciej Witkowiak đã chính thức giới thiệu Llama2.c64 ra thế giới. Như bạn có thể hình dung, hiệu năng từ phần cứng này sẽ không thể đạt mức cao, nhưng việc có thể chạy bất kỳ thứ gì trên nó đã là một điều kỳ diệu. Witkowiak mô tả dự án của mình như sau:
“Được chuyển đổi sang C64 bởi Maciej ‘YTM/Elysium’ Witkowiak sử dụng oscar64.
Llama2.c64 là phiên bản chuyển đổi của llama2.c dành cho Commodore C64 được trang bị ít nhất 2MB REU.
Nó vận hành mô hình tinystories 260K, mang khả năng của Llama2 đến với môi trường phần cứng độc đáo của C64.
Đây không phải là một mô hình trò chuyện (chat model).
Thay vào đó, hãy tưởng tượng bạn đưa cho một đứa trẻ 3 tuổi khởi đầu của một câu chuyện — chúng sẽ tiếp tục nó bằng vốn từ vựng và khả năng tốt nhất của mình.”
Bạn có thể thấy một ví dụ về Llama2.c64 tạo ra một câu chuyện trong hình ảnh dưới đây. Quả thực, những gì nó tạo ra nghe giống như một đứa trẻ đang bập bẹ kể chuyện, nhưng xét đến lượng dữ liệu đầu vào tối thiểu mà AI nhận được và khả năng tiếp tục câu chuyện, đây thực sự là một điều kinh ngạc đối với một chiếc máy tính đã 42 năm tuổi.
Giao diện Llama2.c64 tạo ra câu chuyện trên máy tính cổ điển Commodore 64
Witkowiak chỉ ra những ưu điểm của dự án này bao gồm việc AI hoàn toàn nằm dưới sự kiểm soát của người dùng, khả năng hoạt động trên phần cứng yếu, và khẳng định rằng “Việc chờ đợi token tiếp theo trên C64 cũng thú vị không kém việc chờ đợi từ DeepSeek chạy trên laptop của bạn.” Trong khi đó, về nhược điểm, tác giả cho rằng “Thực sự không có, điều này thật tuyệt vời” (mặc dù ông cũng thừa nhận rằng nó có thể hơi chậm).
Tiềm Năng Và Tầm Ảnh Hưởng Của Các Dự Án AI Trên Phần Cứng Yếu
Dự án Llama2.c64 không chỉ là một minh chứng cho sự sáng tạo không giới hạn trong lĩnh vực công nghệ, mà còn mở ra những suy nghĩ mới về khả năng tối ưu hóa trí tuệ nhân tạo trên mọi loại phần cứng. Việc đưa một mô hình AI lên một thiết bị cổ điển như Commodore 64 cho thấy tiềm năng to lớn trong việc phát triển AI hiệu quả, ít tốn kém và dễ tiếp cận hơn trong tương lai. Điều này đặc biệt quan trọng khi xu hướng AI biên (Edge AI) ngày càng phát triển, nơi các tác vụ AI được thực hiện trực tiếp trên thiết bị thay vì phụ thuộc vào điện toán đám mây.
Nếu bạn quan tâm đến việc chạy AI trên những thiết bị mạnh mẽ hơn một chút (nhưng vẫn ấn tượng về khả năng tối ưu), bạn có thể tìm hiểu thêm về tám bo mạch máy tính đơn (SBCs) lý tưởng để chạy AI tại nhà. Ngoài ra, một ví dụ thú vị khác là câu chuyện về việc một cây bút đã biến chiếc PC cũ của mình thành một máy chủ tạo ảnh AI. Những dự án như Llama2.c64 và các nỗ lực tối ưu AI khác đang định hình một tương lai nơi trí tuệ nhân tạo có thể hiện diện ở khắp mọi nơi, từ những thiết bị tiên tiến nhất cho đến những cỗ máy cổ điển đã đi vào lịch sử.
