Tăng tốc phát triển ứng dụng AI với Azure AI và GitHub

8/2/2024

Microsoft đang thực hiện trao quyền cho các nhà phát triển trở thành nhà phát triển AI, đưa các mô hình hàng đầu trong ngành Azure AI đến cộng đồng GitHub toàn cầu với hơn 100 triệu người.

 

Hơn 60.000 tổ chức sử dụng Microsoft Azure AI để khám phá sức mạnh của các ứng dụng AI tùy chỉnh. Tuy nhiên, thị trường đang nhanh chóng chuyển từ thử nghiệm sang mở rộng quy mô và Microsoft nhận thấy rằng ngày càng nhiều nhà phát triển trên toàn thế giới trở thành nhà phát triển AI. Với sự phát triển tự nhiên này, nhu cầu của các nhà phát triển và yêu cầu của họ để truy cập và xây dựng các mô hình và công cụ AI cũng đang chuyển đổi.

abstract image  

GitHub Models

Các mô hình mới nhất với khả năng độc đáo, số liệu hiệu suất

và hiệu quả về chi phí dành cho nhà phát triển.

https://github.com/marketplace/models

 

Microsoft đã hợp tác với GitHub để trao quyền cho hơn 100 triệu nhà phát triển xây dựng các ứng dụng AI trực tiếp từ GitHub.com với sự tích hợp liền mạch với Codespaces và Microsoft Visual Studio Code. Việc hợp tác mang lại lựa chọn mô hình hàng đầu của Azure AI đến với các nhà phát triển thông qua GitHub Models, cùng với các API đơn giản để trao quyền cho các ứng dụng AI sẵn sàng cho sản xuất.

Đơn giản hóa quá trình phát triển AI

Khi quá trình đổi mới mô hình AI phát triển, Azure vẫn cam kết cung cấp lựa chọn mô hình hàng đầu và sự đa dạng mô hình lớn nhất để đáp ứng nhu cầu độc đáo về chi phí, độ trễ, thiết kế và an toàn của các nhà phát triển AI. Microsoft cũng cung cấp thư viện mô hình lớn nhất và đầy đủ nhất trên thị trường, bao gồm các mô hình mới nhất từ ​​OpenAI, Meta, Mistral và Cohere và các bản cập nhật mô hình ngôn ngữ nhỏ Phi-3.

Với GitHub Models, giờ đây các nhà phát triển có thể khám phá và sử dụng các mô hình mới nhất cùng với các cải tiến AI và mô hình frontier thế hệ tiếp theo. Ưu đãi này mang đến cho mọi nhà phát triển sự linh hoạt để lựa chọn sự kết hợp tốt nhất giữa các khả năng độc đáo, số liệu hiệu suất và hiệu quả về chi phí.

Trong khi đổi mới mô hình liên tục mang lại nhiều lựa chọn hơn, nó cũng mang lại sự phức tạp khi lựa chọn mô hình phù hợp cho đúng tình huống. Hiện nay, các nhà phát triển có nhiều tùy chọn cho cloud với edge, general-purpose với task specific, v.v. Trên hết, các tổ chức thường cần nhiều mô hình để cho phép chất lượng tốt hơn, chi phí bán hàng thấp hơn và giải quyết các trường hợp sử dụng phức tạp cho từng ngành.

GitHub Models mở ra cánh cửa cho các nhà phát triển thử nghiệm nhiều mô hình, đơn giản hóa việc thử nghiệm và lựa chọn mô hình trên danh mục Azure AI tốt nhất, nhanh chóng so sánh các mô hình, tham số và prompt.

Bằng cách biến Azure AI thành một nền tảng mở, Microsoft hướng đến mục tiêu giúp khách hàng nhanh chóng chuyển từ ý tưởng sang code rồi lên cloud. Với Azure AI trên GitHub, các nhà phát triển có thể thực hiện điều đó bằng cách sử dụng Codespaces để thiết lập prototype hoặc sử dụng tiện ích mở rộng Prompty để tạo code bằng GitHub Models trực tiếp trong Microsoft Visual Studio Code.

Trong những tháng tới, Microsoft sẽ mở rộng các tính năng tích hợp hơn như đưa ngôn ngữ, tầm nhìn và các dịch vụ đa phương thức của Azure AI lên GitHub, cùng với các thành phần chuỗi công cụ Azure AI bổ sung nhằm hợp lý hóa hơn nữa quy trình phát triển ứng dụng AI.

Tích hợp an toàn theo mặc định

Các nhà phát triển luôn muốn các ứng dụng AI của mình đáng tin cậy, an toàn và bảo mật. GitHub Models cung cấp một nền tảng vững chắc ngay từ đầu với các biện pháp kiểm soát an toàn và bảo mật tích hợp từ Azure AI.

Azure AI làm việc với các nhà cung cấp mô hình và các đối tác khác như HiddenLayer để giảm các mối đe dọa mới xuất hiện, từ lỗ hổng an ninh mạng, đến phần mềm độc hại và các dấu hiệu giả mạo khác. Và trong GitHub Models, Microsoft đã thực hiện tích hợp Azure AI Content Safety cho các mô hình nền tảng hàng đầu bao gồm Azure OpenAI Service, Llama và Mistral. Azure AI Content Safety cho phép bảo vệ tích hợp, theo thời gian thực đối với các rủi ro như tạo nội dung có hại, tài liệu bản quyền, ảo giác và các cuộc tấn công AI như bẻ khóa và prompt injection.

Nếu các nhà phát triển muốn tìm hiểu sâu hơn, họ có thể tùy chỉnh các điều khiển này trong Azure AI, sử dụng các đánh giá để kiểm tra và giám sát các ứng dụng nhằm đảm bảo chất lượng và tính an toàn liên tục.

Sự đơn giản của AI với một API duy nhất

Việc tăng cường lựa chọn mô hình mang đến cho các nhà phát triển nhiều lựa chọn nhất cho từng ứng dụng mà họ đang xây dựng. Nhưng mỗi mô hình tự nhiên đi kèm với sự phức tạp. Do đó, Microsoft đang tạo điều kiện dễ dàng cho mọi nhà phát triển thử nghiệm nhiều mô hình thông qua Azure AI model inference API. Sử dụng API duy nhất này, các nhà phát triển GitHub có thể truy cập vào một tập hợp các tính năng chung để so sánh hiệu suất trên một tập hợp đa dạng các mô hình nền tảng theo cách thống nhất và nhất quán, dễ dàng chuyển đổi giữa các mô hình để so sánh hiệu suất mà không cần thay đổi code cơ bản.

Azure AI Inference SDK cung cấp các client library bằng Python và JavaScript với hỗ trợ cho C# và .NET sắp ra mắt. SDK này giúp dễ dàng tích hợp AI vào ứng dụng bằng cách đơn giản hóa các tác vụ phổ biến liên quan đến xác thực, bảo mật và thử lại bằng ngôn ngữ lập trình bạn chọn.

Hợp lý hóa quyền truy cập GitHub Enterprise thông qua Microsoft Azure

Ngoài những tích hợp mới này, Microsoft cũng giúp các tổ chức dễ dàng truy cập GitHub Enterprise thông qua Azure hơn bao giờ hết, kết hợp nền tảng đám mây gốc của GitHub với khả năng mở rộng và bảo mật cấp doanh nghiệp mạnh mẽ của Azure.

Các tổ chức có đăng ký Azure hiện tại có thể mua sản phẩm GitHub thông qua dịch vụ tự phục vụ, trực tiếp thông qua Microsoft Sales hoặc thông qua Microsoft Cloud Solution Providers và có thể điều chỉnh số lượng seat GitHub khi cần để đảm bảo sử dụng hiệu quả. Ngoài ra, các tổ chức đủ điều kiện có thể tận dụng Microsoft Azure Consumption Commitment (MACC) và Azure Commitment Discount (ACD).

Các tổ chức hiện có thể tạo một phiên bản GitHub trực tiếp từ Azure Portal và kết nối Microsoft Entra ID của họ với GitHub để tạo điều kiện thuận lợi cho việc quản lý người dùng và kiểm soát quyền truy cập. Với gói đăng ký Azure, bạn có tất cả các công cụ cần thiết để tạo ứng dụng AI thông minh, bao gồm quyền truy cập vào toàn bộ các dịch vụ của GitHub như nơi lưu trữ, Actions, Advanced Security và Copilot. Điều này giúp việc cung cấp cho các nhà phát triển mọi thứ họ cần để xây dựng và triển khai các ứng dụng AI ở quy mô lớn trở nên cực kỳ đơn giản và hiệu quả.

Khách hàng mới có thể khám phá những tính năng này với bản dùng thử GitHub Enterprise miễn phí trong 30 ngày.

 

Nguồn: azure.microsoft.com