MediaTek dùng nền tảng Llama 2 để nâng cao AI tạo sinh
Sự kết hợp giữa Llama 2, APU của MediaTek và nền tảng AI NeuroPilot hướng đến việc thúc đẩy ứng dụng AI trên nhiều thiết bị dùng SoC MediaTek.
MediaTek thông báo đang làm việc chặt chẽ với đội ngũ Llama 2 (ngôn ngữ lớn mã nguồn mở, LLM) từ Meta. Kết hợp LLM cùng APU mới nhất và nền tảng AI NeuroPilot, MediaTek đặt mục tiêu xây dựng hệ sinh thái điện toán biên hoàn chỉnh, thúc đẩy việc phát triển ứng dụng AI trên điện thoại thông minh, IoT, các loại phương tiện, nhà thông minh và những thiết bị điện toán biên khác.
Hiện tại, hầu hết quy trình xử lý AI tạo sinh (Generative AI) được thực hiện thông qua điện toán đám mây. Tuy nhiên, việc sử dụng các mô hình Llama 2 của MediaTek sẽ cho phép các ứng dụng AI tạo sinh chạy trực tiếp trên thiết bị.
Động thái này mang lại vài lợi ích cho các nhà phát triển lẫn người dùng như tăng hiệu suất, nâng cao quyền riêng tư, bảo mật và độ trễ thấp hơn, Ngoài ra nó còn nâng cao khả năng làm việc trong các khu vực có ít hoặc không có kết nối cũng như chi phí vận hành thấp hơn.
Để thực sự tận dụng công nghệ AI tạo sinh trên thiết bị điện toán biên, các nhà sản xuất thiết bị điện toán biên sẽ cần áp dụng bộ xử lý AI cao cấp, tiêu thụ ít năng lượng và kết nối nhanh hơn, đáng tin cậy hơn để nâng cao khả năng tính toán.
Mỗi con chip di động 5G do MediaTek cung cấp hiện nay đều được trang bị các APU được thiết kế để thực hiện nhiều tính năng AI tạo sinh đa dạng, chẳng hạn như Giảm nhiễu bằng AI, Tăng cường Độ phân giải bằng AI, AI MEMC và nhiều tính năng khác.
Ngoài ra, vi xử lý cao cấp thế hệ tiếp theo sẽ có ngăn xếp phần mềm được tối ưu hóa để chạy Llama 2, cùng APU nâng cấp với khả năng tăng tốc cốt lõi Transformer, giảm thiểu diện tích truy cập và sử dụng băng thông DRAM, tăng cường hơn nữa hiệu suất LLM và AIGC.
Những tiến bộ này tạo điều kiện thuận lợi để nhanh chóng xây dựng các trường hợp sử dụng cho AI tạo sinh trên thiết bị.
"Sự phổ biến ngày càng tăng của AI tạo sinh là một xu hướng quan trọng trong quá trình chuyển đổi số, và tầm nhìn của chúng tôi là cung cấp cho cộng đồng có niềm đam mê như các nhà phát triển và người dùng Llama 2 các công cụ cần thiết để đổi mới đầy đủ trong lĩnh vực Trí tuệ Nhân tạo.
Thông qua sự hợp tác với Meta, chúng tôi có thể cung cấp phần cứng và phần mềm với nhiều khả năng vượt trội hơn bao giờ hết", Phó Tổng Giám đốc Cấp Cao và Quản lý bộ phận Kinh doanh Communications Wireless tại MediaTek, ông JC Hsu phát biểu.
MediaTek kỳ vọng các ứng dụng AI dựa trên Llama 2 sẽ có sẵn trên các smartphone trang bị SoC flagship thế hệ tiếp theo, dự kiến sẽ được tung ra thị trường vào cuối năm.
