Build University AI Assistant

Chào bạn, với tư cách là một Chuyên gia Phân tích Hệ thống (BA) kiêm Technical Lead đã thực hiện hàng trăm dự án trên Freelancer.com, tôi hiểu rằng dự án "University AI Assistant" cho thị trường Saudi Arabia này không chỉ đơn thuần là một chatbot. Đây là một hệ thống Enterprise AI phức tạp với yêu cầu cực kỳ khắt khe về hạ tầng tự chủ (Self-hosted) và tuân thủ pháp lý (PDPL/NCA).
Dưới đây là bản phân tích và kế hoạch triển khai chi tiết cho dự án này.

---

1. PHÂN TÍCH YÊU CẦU KỸ THUẬT CHI TIẾT

A. Yêu cầu chức năng (Functional Requirements)

RAG (Retrieval-Augmented Generation) nâng cao: Không chỉ là tìm kiếm vector đơn thuần, hệ thống yêu cầu Hybrid Retrieval (kết hợp Keyword + Semantic) và Re-ranking để đảm bảo độ chính xác tuyệt đối. Phải có tính năng "Citing sources" (trích dẫn nguồn) để chống ảo giác (hallucination).
Agentic Layer: Sử dụng LangGraph để điều phối đa tác vụ (multi-agent). Ví dụ: Một agent chuyên tra cứu học phí, một agent chuyên đặt lịch hẹn, một agent chuyên trả lời câu hỏi chung.
Automated Content Ingestion: Hệ thống tự động quét website (Crawler), đọc PDF phức tạp (có bảng biểu, OCR) và cập nhật index trong vòng 24h.
Hỗ trợ đa phương thức (Text & Voice): Xử lý giọng nói tiếng Ả Rập (vốn rất khó do phương ngữ) với độ trễ dưới 2 giây.
Admin Portal: Quản trị toàn diện từ nội dung, phê duyệt câu trả lời đến kiểm soát quyền truy cập (RBAC).

B. Yêu cầu hệ thống (Non-functional Requirements)

Chủ quyền dữ liệu (Data Sovereignty): 100% dữ liệu và Model phải nằm trong lãnh thổ Saudi Arabia. Không được gọi API ngoài (OpenAI, Anthropic...).
Hiệu năng cao: 2.000 phiên làm việc đồng thời (concurrent sessions) là một con số lớn, đòi hỏi tối ưu hóa GPU và cân bằng tải cực tốt.
Bảo mật: Tuân thủ tiêu chuẩn OWASP cho LLM và luật bảo vệ dữ liệu cá nhân (PDPL) của Saudi.
Tiếp cận (Accessibility): Chuẩn WCAG 2.1 AA và hỗ trợ giao diện RTL (phải sang trái) cho tiếng Ả Rập.

C. "Điểm nghẽn" và Rủi ro tiềm ẩn (Critical Risks)

1. Hiệu suất LLM Tiếng Ả Rập tự host: Các model Open-weight (như Llama 3 hoặc Mistral) thường yếu về tiếng Ả Rập so với GPT-4. Cần sử dụng các model chuyên biệt như Jais (Inception) hoặc fine-tune lại Llama 3 trên tập dữ liệu tiếng Ả Rập bản địa.
2. Độ trễ Voice (Latency): Với yêu cầu < 2s end-to-end mà không dùng Cloud API, việc tối ưu hóa pipeline STT (Speech-to-Text) và TTS (Text-to-Speech) trên GPU nội bộ là một thách thức cực lớn. Cần dùng Faster-Whisper và các engine TTS tối ưu như Piper hoặc Coqui.
3. Chi phí hạ tầng (Infrastructure Cost): Khách hàng đưa ra ngân sách $5,000 - $10,000 cho việc phát triển, nhưng họ cần biết rằng chi phí thuê/mua GPU (A100 hoặc H100) tại Saudi Arabia để chạy 2,000 concurrent sessions là rất đắt đỏ.
4. Xử lý bảng biểu trong PDF: PDF đại học thường có cấu trúc bảng biểu phức tạp. Việc parse PDF lỗi sẽ dẫn đến RAG trả lời sai về học phí/lịch trình.

---

2. KẾ HOẠCH TRIỂN KHAI & LỘ TRÌNH THỰC HIỆN

Dự án sẽ được chia thành 5 giai đoạn chính trong khoảng 14-16 tuần.

Giai đoạn 1: Thiết lập Hạ tầng & Prototype (Tuần 1-3)

Đầu việc: Thiết lập cụm Kubernetes (K8s) tại local data center; Cài đặt môi trường phục vụ LLM (vLLM hoặc TGI); Lựa chọn Model cơ sở (Jais 13B hoặc Llama 3 70B).
Kết quả bàn giao: Tài liệu kiến trúc hệ thống; Bản Prototype chat cơ bản chạy trên hạ tầng nội bộ.

Giai đoạn 2: Xây dựng RAG & Content Ingestion (Tuần 4-7)

Đầu việc: Phát triển Crawler (Playwright/Selenium); Xây dựng pipeline xử lý PDF/OCR; Thiết lập Vector Database (Qdrant hoặc Milvus); Cấu hình Hybrid Search và Re-ranking.
Kết quả bàn giao: Hệ thống nạp dữ liệu tự động; Chatbot có khả năng trích dẫn nguồn chính xác từ tài liệu đại học.

Giai đoạn 3: Agentic Layer & Voice Integration (Tuần 8-11)

Đầu việc: Phát triển Multi-agent bằng LangGraph; Kết nối công cụ (Tools) cho ticketing và scheduling; Tích hợp Pipeline Voice (STT -> LLM -> TTS) với cơ chế Streaming để giảm độ trễ.
Kết quả bàn giao: Chatbot có khả năng thực hiện tác vụ (đặt lịch, tra cứu); Giao diện Voice hoạt động mượt mà.

Giai đoạn 4: Admin Portal & Security Hardening (Tuần 12-14)

Đầu việc: Xây dựng Dashboard quản trị (AngularJS/React); Thiết lập hệ thống kiểm duyệt (Guardrails) chống Prompt Injection; Red-teaming để kiểm tra lỗ hổng bảo mật.
Kết quả bàn giao: Full Admin Portal; Báo cáo kiểm định bảo mật và độ chính xác (Evaluation Report).

Giai đoạn 5: Testing, QA & Bàn giao (Tuần 15-16)

Đầu việc: Kiểm thử tải (Load test) 2,000 concurrent sessions; Tối ưu hóa UI/UX theo chuẩn WCAG; Đào tạo chuyển giao và bàn giao mã nguồn.
Kết quả bàn giao: Full Source Code; Tài liệu vận hành; Hệ thống live trên hạ tầng của trường.

---

3. ƯỚC TÍNH CHI PHÍ & THỜI GIAN (TIMELINE)

Dựa trên quy mô và độ phức tạp (đặc biệt là yêu cầu Self-hosted và Voice), mức giá của khách hàng ($5k-$10k) thực tế là khá thấp so với thị trường chuyên gia quốc tế cho một hệ thống Enterprise AI. Tuy nhiên, để thắng thầu trên Freelancer.com, tôi đề xuất phương án tối ưu:

Ước tính Chi phí (Development Fee):

Khoảng giá dự thầu: $9,500 - $12,000 USD (Tôi khuyên nên bid ở mức trần hoặc cao hơn một chút vì yêu cầu K8s và Voice tự host cực kỳ tốn công).
Phân bổ theo Milestone:
1. Milestone 1 (Hạ tầng & Model Setup): $2,000 (20%)
2. Milestone 2 (RAG & Ingestion Engine): $2,500 (25%)
3. Milestone 3 (Agentic Layer & Voice): $2,500 (25%)
4. Milestone 4 (Admin Portal & Security): $1,500 (15%)
5. Milestone 5 (Final Testing & Handover): $1,000 (15%)

Ước tính Thời gian:

Tổng thời gian thực hiện: 110 ngày (~4 tháng).
Chi tiết:
Thiết lập & R&D Model: 20 ngày.
Phát triển lõi AI & Ingestion: 35 ngày.
Tích hợp Voice & Agents: 25 ngày.
UI/UX & Admin Portal: 15 ngày.
Testing, Optimization & Deployment: 15 ngày.

---

LỜI KHUYÊN CỦA CHUYÊN GIA ĐỂ CHIẾN THẮNG DỰ ÁN NÀY:

1. Nhấn mạnh vào "Self-hosted": Hãy chứng minh bạn có kinh nghiệm cấu hình vLLM hoặc NVIDIA Triton Inference Server để chạy LLM mà không cần Internet.
2. Giải pháp cho Tiếng Ả Rập: Nhắc đến việc sử dụng các thư viện như `Camel Tools` hoặc model `Jais` để xử lý ngôn ngữ Ả Rập chuyên sâu.
3. Cam kết bảo mật: Đề cập đến việc tuân thủ NCA (National Cybersecurity Authority) của Saudi Arabia ngay trong đề xuất để tạo sự tin tưởng tuyệt đối về mặt pháp lý.
Với bản kế hoạch này, bạn sẽ thể hiện mình không chỉ là một coder mà là một đối tác chiến lược có khả năng giải quyết các bài toán hóc búa nhất của khách hàng. Chúc bạn thành công!