Thanh Thúy
Well-known member
Tại Hội nghị Snapdragon Summit đang diễn ra tại Maui, Hawaii, Qualcomm đã công bố hợp tác với Mistral AI để đưa các mô hình Mistral AI tạo sinh mới nhất gồm Ministral 3B và Ministral 8B, lên các thiết bị tích hợp Nền tảng Snapdragon 8 Elite cho di động), Snapdragon Cockpit Elite hoặc Snapdragon Ride Elite (cho các ứng dụng của ô tô), và Nền tảng Điện toán Snapdragon X Series (cho máy tính AI). Ministral 3B hiện là mô hình AI thương mại cao cấp đầu tiên của Mistral AI được thiết kế đặc biệt để sử dụng trực tiếp trên thiết bị.
Ministral 3B và Ministral 8B của Mistral AI là những mô hình nhỏ gọn nhưng mạnh mẽ, phù hợp chạy trên các thiết bị như điện thoại thông minh, các phương tiện giao thông và nhiều thiết bị khác. Việc chạy AI tạo sinh ngay trên thiết bị cũng mang lại vô số các lợi ích, bao gồm nâng cao tính bảo mật, tính tức thời, độ tin cậy, tiết kiệm chi phí và hiệu quả năng lượng. Bên cạnh việc không cần đến mạng Internet nên AI thiết bị có thể chạy mọi lúc, không phụ thuộc vào điều kiện mạng.
Tại sự kiện, Qualcomm cũng giới thiệu trợ lý AI đa phương thức cũng được cá nhân hóa trên thiết bị; hỗ trợ đầu vào mã thông báo dài hơn. NPU Qualcomm Hexagon nhanh hơn 45% và hiệu suất nhanh hơn 45% trên mỗi watt.
Hàng loại tính năng AI được nâng cấp nhờ Qualcomm AI Engine với AI đa phương thức và hỗ trợ cá nhân hóa. AI đa phương thức cách mạng hóa các tương tác, hiểu giọng nói, văn bản, hình ảnh và giờ nó thậm chí có thể nhìn thế giới qua camera của bạn để hỗ trợ các tác vụ, từ các truy vấn hàng ngày và tóm tắt đến sáng tạo nội dung nâng cao. Thêm vào đó, nó cũng có thể ngay lập tức trở thành chuyên gia về bất kỳ chủ đề nào bằng cách học hỏi toàn bộ các chương và tài liệu trong sách mà bạn cung cấp.
AI trong Snapdragon 8 Elite được hỗ trợ bởi nhiều mô hình AI khác nhau bao gồm các mô hình đa phương thức lớn (LMM), LLM và LVM. Hỗ trợ hệ sinh thái mô hình AI toàn cầu lớn nhất. Hỗ trợ đầu vào mã thông báo dài hơn: cung cấp cho trợ lý AI của bạn toàn bộ một chương sách hoặc tài liệu kỹ thuật dài để biến nó thành chuyên gia. Qualcomm Sensing Hub hiểu bối cảnh cá nhân cho phép trợ lý AI tạo đa phương thức của bạn đưa ra các đề xuất và quyết định phù hợp nhất với bạn.
“Chúng tôi rất vui mừng khi được công bố sự hợp tác với Mistral AI, hướng đến mục tiêu mang các tiến bộ mới nhất trong công nghệ AI đến các thiết bị tại biên”, ông Phó Chủ tịch cấp cao kiêm Tổng Giám đốc mảng công nghệ, hoạch định và giải pháp biên của Qualcomm Technologies, Inc. chia sẻ. “Các mô hình Ministral 3B và Ministral 8B của Mistral AI sẽ giúp cho các nhà sản xuất thiết bị, nhà cung cấp phần mềm và dịch vụ số đem đến cho người dùng những trải nghiệm sáng tạo, ví dụ như trợ lý AI và nhiều ứng dụng khác thấu hiểu nhu cầu của người dùng nhờ tận dụng sức mạnh của AI ngay trên thiết bị.”
“Hợp tác với Qualcomm Technologies là một cột mốc quan trọng đối với Mistral AI, thể hiện khả năng của các mô hình mới của chúng tôi khi chạy trực tiếp trên các thiết bị sử dụng nền tảng Snapdragon”, ông Arthur Mensch, đồng sáng lập kiêm CEO của Mistral AI cho biết. “Chúng tôi đã và đang cùng nhau phổ cập hóa khả năng tiếp cận công nghệ AI tân tiến, trao quyền cho các nhà phát triển và người dùng trên toàn thế giới để trải nghiệm toàn bộ tiềm năng từ các mô hình của chúng tôi ngay trên chính thiết bị của họ.”
Qualcomm và Mistral AI đang hợp tác để sớm đưa Ministral 3B và Ministral 8B đến với các nhà phát triển thông qua Qualcomm AI Hub. Hiện nay, trên Qualcomm AI Hub, các nhà phát triển có thể truy cập các mô hình AI phổ biến khác của Mistral, bao gồm Mistral 7B v0.3, giúp các nhà phát triển và người dùng tận dụng các khả năng tiên tiến của Mistral AI.
Ministral 3B và Ministral 8B của Mistral AI là những mô hình nhỏ gọn nhưng mạnh mẽ, phù hợp chạy trên các thiết bị như điện thoại thông minh, các phương tiện giao thông và nhiều thiết bị khác. Việc chạy AI tạo sinh ngay trên thiết bị cũng mang lại vô số các lợi ích, bao gồm nâng cao tính bảo mật, tính tức thời, độ tin cậy, tiết kiệm chi phí và hiệu quả năng lượng. Bên cạnh việc không cần đến mạng Internet nên AI thiết bị có thể chạy mọi lúc, không phụ thuộc vào điều kiện mạng.
Tại sự kiện, Qualcomm cũng giới thiệu trợ lý AI đa phương thức cũng được cá nhân hóa trên thiết bị; hỗ trợ đầu vào mã thông báo dài hơn. NPU Qualcomm Hexagon nhanh hơn 45% và hiệu suất nhanh hơn 45% trên mỗi watt.
Hàng loại tính năng AI được nâng cấp nhờ Qualcomm AI Engine với AI đa phương thức và hỗ trợ cá nhân hóa. AI đa phương thức cách mạng hóa các tương tác, hiểu giọng nói, văn bản, hình ảnh và giờ nó thậm chí có thể nhìn thế giới qua camera của bạn để hỗ trợ các tác vụ, từ các truy vấn hàng ngày và tóm tắt đến sáng tạo nội dung nâng cao. Thêm vào đó, nó cũng có thể ngay lập tức trở thành chuyên gia về bất kỳ chủ đề nào bằng cách học hỏi toàn bộ các chương và tài liệu trong sách mà bạn cung cấp.
AI trong Snapdragon 8 Elite được hỗ trợ bởi nhiều mô hình AI khác nhau bao gồm các mô hình đa phương thức lớn (LMM), LLM và LVM. Hỗ trợ hệ sinh thái mô hình AI toàn cầu lớn nhất. Hỗ trợ đầu vào mã thông báo dài hơn: cung cấp cho trợ lý AI của bạn toàn bộ một chương sách hoặc tài liệu kỹ thuật dài để biến nó thành chuyên gia. Qualcomm Sensing Hub hiểu bối cảnh cá nhân cho phép trợ lý AI tạo đa phương thức của bạn đưa ra các đề xuất và quyết định phù hợp nhất với bạn.
“Chúng tôi rất vui mừng khi được công bố sự hợp tác với Mistral AI, hướng đến mục tiêu mang các tiến bộ mới nhất trong công nghệ AI đến các thiết bị tại biên”, ông Phó Chủ tịch cấp cao kiêm Tổng Giám đốc mảng công nghệ, hoạch định và giải pháp biên của Qualcomm Technologies, Inc. chia sẻ. “Các mô hình Ministral 3B và Ministral 8B của Mistral AI sẽ giúp cho các nhà sản xuất thiết bị, nhà cung cấp phần mềm và dịch vụ số đem đến cho người dùng những trải nghiệm sáng tạo, ví dụ như trợ lý AI và nhiều ứng dụng khác thấu hiểu nhu cầu của người dùng nhờ tận dụng sức mạnh của AI ngay trên thiết bị.”
“Hợp tác với Qualcomm Technologies là một cột mốc quan trọng đối với Mistral AI, thể hiện khả năng của các mô hình mới của chúng tôi khi chạy trực tiếp trên các thiết bị sử dụng nền tảng Snapdragon”, ông Arthur Mensch, đồng sáng lập kiêm CEO của Mistral AI cho biết. “Chúng tôi đã và đang cùng nhau phổ cập hóa khả năng tiếp cận công nghệ AI tân tiến, trao quyền cho các nhà phát triển và người dùng trên toàn thế giới để trải nghiệm toàn bộ tiềm năng từ các mô hình của chúng tôi ngay trên chính thiết bị của họ.”
Qualcomm và Mistral AI đang hợp tác để sớm đưa Ministral 3B và Ministral 8B đến với các nhà phát triển thông qua Qualcomm AI Hub. Hiện nay, trên Qualcomm AI Hub, các nhà phát triển có thể truy cập các mô hình AI phổ biến khác của Mistral, bao gồm Mistral 7B v0.3, giúp các nhà phát triển và người dùng tận dụng các khả năng tiên tiến của Mistral AI.