#AI thực chiến: Tổng hợp các dự án AI “hot” tại Sun* thời gian gần đây

Năm 2024, Sun* đã và đang từng bước khẳng định thế mạnh công nghệ của mình trên thị trường thông qua việc định hướng sản xuất sử dụng công nghệ chiến lược. Trong đó công nghệ mũi nhọn, nổi bật là AI cũng đã được cài đặt vào hệ thống mục tiêu công ty tại Objective 5: Phát triển thế mạnh công nghệ Sun*. 

Với những nỗ lực mở rộng và nâng cao chất lượng các dự án AI - nhóm công nghệ đã và đang tạo nên kỷ nguyên mới này, quý I vừa qua, số lượng dự án AI đã đang có dấu hiệu tăng. Trong số đó, nổi bật phải kể đến là 5 dự án bên dưới với nhiều kinh nghiệm và thành tựu nhất định. Hãy cùng theo dõi câu chuyện dự án của họ nhé!

In House Document Search

Chính thức khởi động từ tháng 4, đội ngũ dự án In House Document Search bao gồm 3 chiến binh: một AI leader, một BrSE từ Sun* Japan và một kỹ sư từ Sun* Việt Nam. 

Theo anh Trung Đức - AI Leader từ dự án chia sẻ, câu chuyện phía sau dự án này khá thú vị. Trước đây, đội ngũ đã từng làm việc với khách hàng với định hướng phát triển từ ý tưởng thử nghiệm (PoC) đến sản phẩm khả dụng (MVP) và sau đó là hệ thống chính thức. Dù cả team đã cống hiến nhiệt tình nhưng do một vài lí do khách quan từ nội bộ, khách hàng phải tạm dừng và phản hồi sẽ quay lại với chúng ta khi đủ nguồn lực vì những kết quả ấn tượng trong phase 1. Và đúng 2 tháng sau, “trái ngọt” đầu tiên đã đến với sự hợp tác mở ra dự án này.

Sản phẩm của dự án là phát triển hệ thống tính năng có ứng dụng AI bao gồm: khả năng hiểu tự động các thông tin từ tài liệu phức tạp như biểu đồ, hình ảnh, bảng biểu, và từ đó có thể tự động trả lời các tiêu chí đánh giá mà khách hàng yêu cầu dựa vào tài liệu được cung cấp. Sản phẩm ứng dụng các mô hình ngôn ngữ lớn (Large Language Model - LLM) trong kiến trúc Retrieval Augmented Generation (RAG) - kỹ thuật được sử dụng để nâng cao độ chính xác và tin cậy của các mô hình này. 

Hiểu đơn giản, RAG là một kỹ thuật giúp mô hình ngôn ngữ lớn tìm kiếm và sử dụng thông tin từ các tài liệu cụ thể, giống như việc đưa cho một đứa trẻ một cuốn tài liệu về Bill Gates và yêu cầu đứa trẻ cung cấp thông tin về ông.

Ngoài ra, các dịch vụ của Azure Microsoft như Azure AI Search, Azure OpenAI, và Azure Embedding cũng được sử dụng trong dự án. Đội ngũ cũng sử dụng Langchain, một khung mã nguồn mở, để xây dựng các ứng dụng dựa trên các mô hình ngôn ngữ lớn.

“Ở những bước đi đầu tiên, dự án gặp phải rất nhiều thử thách trong công tác tính toán chi phí sử dụng dịch vụ bên thứ 3 và đảm bảo hoạt động đúng yêu cầu của khách hàng; một số phần dự định sử dụng dịch vụ bên thứ 3 nhưng kết quả không tốt, yêu cầu team cần ngồi lại bàn bạc và tự phát triển thuật toán với rất nhiều nghiên cứu và thử nghiệm để có thể đi kịp tiến độ. Hiện tại, dự án đã xây dựng được các stage cần thiết, bao gồm cả UI và Core và đang bước vào giai đoạn cải thiện độ chính xác. Mình cũng không biết viết lời sao cho hay, chỉ biết nói cảm ơn các anh em đã cống hiến hết mình với dự án này, xong dự án chắc phải đi làm một bữa ngay!”

- Chia sẻ về những kỉ niệm đáng nhớ trong quá trình phát triển dự án, Trung Đức cho biết -

Chatbot Recommendation System 

Chính thức triển khai vào tháng 1/2024, Chatbot Recommendation System là dự án phát triển sản phẩm chatbot bằng trí tuệ nhân tạo để tạo nên những “nhân viên chăm sóc khách hàng AI” cho công ty viễn thông lớn tại Ấn Độ. Chatbot này có khả năng trả lời các câu hỏi liên quan đến dự án, tự tìm kiếm trên Google hoặc đọc tài liệu khách hàng để đưa ra những phản hồi tốt nhất. Đồng thời, sản phẩm còn có thể phát hiện lỗi trong quá trình sử dụng dịch vụ mà người dùng gặp phải, tự động sửa chữa nếu có thể và thông báo cho họ.

Điểm nổi bật của dự án là tính đa quốc gia, với Product Owner là người Mỹ, End-user là người Ấn Độ và rất nhiều Stakeholders liên quan. Việc ứng dụng AI sâu vào chatbot cũng là một điểm sáng trong hệ thống đang được phát triển. 

Hiện tại, đội ngũ dự án đã phát triển sản phẩm được khoảng 6 tháng và chuẩn bị release. Đây là điều mà team in-house của khách hàng phải mất 2 năm vẫn chưa hoàn thành. Gửi gắm đến các thành viên tham gia dự án, anh Việt Tuấn (PSM) chia sẻ: 

“Cám ơn anh em đã luôn nỗ lực hết mình trong khoảng thời gian vừa qua, với một khách hàng lớn, môi trường làm việc đặc thù và tất cả chúng ta đã vẫn cùng nhau nỗ lực để đi đến được ngày hôm nay. Mình cùng nhau release sản phẩm thành công nhé!”

TCG Text AI Translation

TCG Text AI Translation tiếp tục là một dự án gồm 3 thành viên, với 2 AI engineers tại Sun* Việt Nam và một thành viên Sun* Nhật Bản. Dự án chính thức bắt đầu vào tháng 3/2024. Sản phẩm của dự án là dịch game thẻ bài Nhật sang phiên bản tiếng Anh. Các card game có cách phiên dịch chuyên dụng và phải liên kết, thống nhất với nhau trong mỗi loại game riêng biệt. Hiện tại, để dịch cần đào tạo nhân viên rất tốn công sức và thời gian, nhưng chất lượng các bản dịch không đồng đều, thường xuyên xảy ra các trường hợp dịch không thống nhất và lỗi đánh máy. Vì vậy, một sản phẩm tích hợp trí tuệ nhân tạo bao gồm công nghệ Azure Translator và Azure OpenAI có thể xử lý các vấn đề trên là bài toán được đặt ra cho team dự án. 

Điểm nổi bật của dự án là việc sử dụng kết hợp Neural Machine Translation và mô hình OpenAI LLM giúp công tác dịch thẻ bài trở nên chính xác và tự nhiên hơn. Mô hình AI cũng giúp sửa lỗi chính tả của dữ liệu do người dùng dịch sai, lỗi ngữ pháp và lỗi đánh máy.

Dự án đã trải qua một số khó khăn và thử thách trong việc trao đổi thông tin và nguồn dữ liệu đầu vào với nhiều lỗi, bản dịch tiếng Nhật nhiều hơn tiếng Anh. Khách hàng thay đổi một số định dạng đầu ra khiến việc train mô hình phải lặp đi lặp lại; chi phí huấn luyện mô hình tương đối cao đòi hỏi team dự án phải theo dõi sát sao và cẩn thận. Robert, thành viên dự án cho biết: "Các hệ thống AI luôn cần thời gian chạy thử nghiệm để đánh giá độ hoàn thiện bởi đây là những khái niệm hoàn toàn mới với thị trường. Tuỳ vào mức độ chính xác, công cụ có thể được quyết định có đưa vào kinh doanh hay không, nên toàn twam phải nỗ lực gấp nhiều lần để dự án được tiếp tục."
 

Hiện tại, dự án đã đạt được những kết quả tích cực. Chỉ số BLEU (chỉ số đo độ tương đồng giữa hai bản dịch) đã đạt lần lượt là 93% và 90% trên tập dữ liệu thử nghiệm. Nhắn nhủ đến các thành viên team dự án, anh Bảo Linh (AI Engineer) chia sẻ: "Cảm ơn anh em dự án đã giúp dự án đạt kết quả ngày hôm nay. Mặc dù vẫn còn nhiều thử thách phía trước nhưng mong anh em luôn cố gắng hết mình."

Wine Service Data Science Support

Wine Service Data Science Support là một Line dự án chuyên về AI trong dự án tổng “đồ sộ” quy tụ đến gần 60 nhân sự Sun* Việt Nam. Line bao gồm 3 AI Engineer và 1 BrSE, chính thức bắt đầu vào tháng 12/2023 với mục tiêu sử dụng công cụ AI để "ngôn ngữ hóa" các thông tin về các loại rượu, bao gồm hương vị, ấn tượng khi uống, từ đó xây dựng một hệ thống quản lý các "wine profile". Hệ thống này giúp các nhà hàng, quán rượu, và khách hàng lựa chọn loại rượu phù hợp với sở thích, tâm trạng, tạo ra trải nghiệm giống như có sự hỗ trợ của một chuyên gia sommelier.

Khác với những dự án AI thông dụng trên thị trường, Wine Service Data Science Support gặp phải những bài toán khá mới mẻ trong việc xử lý dữ liệu, nhưng không phải với số lượng đồ sộ mà lại với một lượng rất … khiêm tốn. Các kỹ sư AI phải nỗ lực research, tìm hiểu business để tạo thêm dữ liệu bổ sung, có các chiến lược huấn luyện linh hoạt hơn và phối hợp nhiều phương pháp khác nhau.

Anh Xuân Hiến, đại diện dự án chia sẻ: "Đây không phải là một dự án thường gặp để có thể áp dụng các case study dễ dàng, do đó, chúng ta cần phải đào sâu nghiên cứu và khai phá nhiều bài toán mới. Nhưng anh tin với Aim High - Be Agile - Wasshoi, chúng ta sẽ cùng nhau từng bước vượt qua để đem lại chất lượng tốt nhất!"

Hiện tại, team đang dần bước vào giai đoạn cuối cho giải pháp AI dành cho rượu vang đỏ và đang lên kế hoạch để khách hàng tiến hành UAT. Sau đó, team sẽ tiếp tục xây dựng giải pháp dành cho rượu vang trắng.

Image Processing Poc

Image Processing Poc hướng đến việc xây dựng hệ thống đánh giá độ tươi của hoa quả và rau củ thông qua… ảnh chụp. Tức là chỉ cần chụp ảnh vào app, người dùng có thể sử dụng công nghệ phân loại hình ảnh và nhận về ngay những lời khuyên về việc sử dụng bằng trí tuệ nhân tạo. Lửa thử vàng, gian nan thử sức”, khá nhiều thử thách được đặt ra đem đến cho anh em cơ hội học tập và trải nghiệm quý báu, tạo động lực cho mọi người hào hứng tham gia.

Anh Đình Trọng, đại diện dự án cho biết: “Dự án mới nên anh em đã đối mặt với kha khá thử thách “khó nhằn”. Khi chuẩn bị đến thời điểm phải gửi UAT, team gặp lỗi trong việc tích hợp giữa AI và Native, và đến tận deadline vẫn chưa giải quyết được. Các thành viên đã làm việc đến tận 10 giờ đêm nhưng không tìm được giải pháp, đã nhắn tin báo cho team JP xin khách hàng cho thêm thời gian để điều tra. Tuy nhiên, đến 12 giờ đêm, Công (member AI) phát hiện được nguyên nhân và đưa ra giải pháp. Sáng sớm hôm sau, team đã kịp tích hợp và build app gửi khách hàng. Cảm ơn các anh em đã không quản ngại ngày đêm fix bug và build app để kịp bàn giao sản phẩm cho khách hàng. Sau giai đoạn POC này, nếu khách hàng tiếp tục triển khai sản phẩm này, mong lại được hợp tác với mọi người”.

Đến thời điểm hiện tại, dự án đã được deliver cho khách hàng và kết thúc vào ngày 30/4.

ChatBot

Dự án cuối cùng trong series tổng hợp hôm nay là Chatbot - 1 BX Platform (BX) - trải nghiệm thương hiệu, cung cấp hệ thống BOT tự động chat với khách hàng từ bước thực hiện Ad-marketing, thuyết phục khách hàng mua hàng, thuyết phục khách hàng tiếp tục sử dụng sản phẩm và giữ chân khách hàng khi khách hàng có ý định dừng sử dụng dịch vụ trên nhiều nền tảng Website, Facebook, Instagram, Line, etc . Sử dụng hệ thống Chatbot sẽ giúp cho khách hàng và doanh nghiệp tăng tỉ lệ đặt hàng (CVR), tỉ lệ giữ chân khách hàng (CRR) và tối ưu hóa giá trị trọn đời khách hàng (LTV).

Hiện tại, team Chatbot Sun* gồm 24 nhân sự, trong đó có 2 thành viên Sun* Nhật Bản. Khi các members phỏng vấn dự án này, khách hàng có chia sẻ rằng dự án sẽ có nhiều thử thách. Họ đã nhận được câu trả lời của chính thành viên chúng ta là "chúng tôi yêu thử thách". Đó là cái duyên đã giúp dự án bắt đầu, và trải qua hơn “4 tuổi” phát triển cùng nhau. 

Đến nay Chatbot đang phát triển mạnh, EFO BOT (Botchan Payment, Botchan Keeper, Botchan Tech Touch) và BOTCHAN AI (sử dụng công nghệ AI) đang là business mũi nhọn của công ty khách hàng.

Chinh phục kỷ nguyên AI vẫn còn là một con đường chông gai, nhưng với tinh thần hăm hở và khao khát phiêu lưu, chúng tôi tin rằng các đội dự án nhất định sẽ khai phá và mở ra nhiều hơn nữa tính ứng dụng của trí tuệ nhân tạo, giúp Sun* phát triển bền vững trong thời đại mới cũng như từng bước xây dựng thế mạnh AI riêng của Sun* trên thị trường.