Trong thời đại công nghệ phát triển nhanh chóng, việc phát triển các trợ lý AI thông minh và tự chủ đã trở thành một yếu tố quan trọng. Phidata là một framework mạnh mẽ giúp bạn xây dựng các trợ lý AI có trí nhớ lâu dài, kiến thức ngữ cảnh và khả năng thực hiện các hành động thông qua việc gọi hàm.
Phidata là gì?
Phidata là một nền tảng cho phép xây dựng các Trợ lý Tự động (còn gọi là Agents) có khả năng:
- Tìm kiếm trên web
- Phân tích dữ liệu
- Nghiên cứu và tạo báo cáo
- Trả lời câu hỏi từ PDF, API, và nhiều nguồn khác
- Viết kịch bản phim, sách, tóm tắt bài viết, video
- Chạy python code, shell script
- Thực hiện các tác vụ như gửi email, truy vấn cơ sở dữ liệu
![](https://blog.vietnamlab.vn/content/images/12Mgy1eQPY5sPgDgBk0daAbhnOd2MKceM.png)
Tại sao chọn Phidata?
Vấn đề: Cần biến các mô hình ngôn ngữ tổng quát (LLM) thành các trợ lý chuyên biệt cho các mục đích sử dụng cụ thể.
Giải pháp: Mở rộng LLMs với trí nhớ, kiến thức và công cụ:
- Trí Nhớ: Lưu trữ lịch sử trò chuyện trong cơ sở dữ liệu để giúp LLMs có các cuộc hội thoại dài hạn.
- Kiến Thức: Lưu trữ thông tin trong cơ sở dữ liệu vector và cung cấp ngữ cảnh kinh doanh cho LLMs.
- Công Cụ: Cho phép LLMs thực hiện các hành động như truy xuất dữ liệu từ API, gửi email hoặc truy vấn cơ sở dữ liệu.
Hiện tại có những tool tương tự như Coze.com nhưng nó dạng web assistant và khó có thể tùy biến và tích hợp vào ứng dụng của mình.
Các Mô Hình Ngôn Ngữ Lớn (LLM) mà Phidata Hỗ Trợ
Hầu hết các LLM hiện nay đều được hỗ trợ bỡi Phidata như OpenAI, OpenAI Like, Anthropic Claude, Ollama, Hermes2, AWS Bedrock, Together, Anyscale, Gemini, Groq, Fireworks, Azure, Mistral, Cohere.
Cách Hoạt Động
- Tạo một
Assistant
- Thêm Công cụ (functions), Kiến thức (vectordb) và Lưu trữ (database)
- Phục vụ sử dụng Streamlit, FastApi hoặc Django để xây dựng ứng dụng AI của bạn
Cài đặt và Khởi đầu Nhanh
Trước khi cài đặt Phidata, hãy tạo và kích hoạt môi trường ảo (virtual environment):
# Tạo và kích hoạt môi trường ảo
python -m venv myenv
source myenv/bin/activate # Trên Windows sử dụng: myenv\Scripts\activate
# Cài đặt Phidata
pip install -U phidata
Tạo một trợ lý có thể tìm kiếm trên web với file assistant.py
:
from phi.assistant import Assistant
from phi.tools.duckduckgo import DuckDuckGo
assistant = Assistant(tools=[DuckDuckGo()], show_tool_calls=True)
assistant.print_response("Whats happening in France?", markdown=True)
Cài đặt các thư viện cần thiết và chạy trợ lý:
pip install openai duckduckgo-search
export OPENAI_API_KEY=sk-xxxx
python assistant.py
Chỉ đơn giản vầy thôi. Nhanh gọn lẹ phải không ạ?
Chạy hệ điều hành LLM của Phidata
# clone code
git clone https://github.com/phidatahq/phidata
cd phidata
# Tạo môi trường ảo
python3 -m venv ~/.venvs/aienv
source ~/.venvs/aienv/bin/activate
# Cài đặt package cần thiết
pip install -r cookbook/llm_os/requirements.txt
# Setup key cần thiết để sài AI
export OPENAI_API_KEY=*** # dùng cho assistant
export EXA_API_KEY=xxx # dùng để research
# Chạy PgVector (thông qua Docker)
./cookbook/run_pgvector.sh
# Chạy hệ điều hành LLM qua streamlint
streamlit run cookbook/llm_os/app.py
Như vầy là xong, mở http://localhost:8501/ để truy cập giao diện của app và khám phá nào:
- Hỏi thử: "Chuyện gì đang xảy ra ở Việt Nam"
- "Runway AI là gì"
- Bật shell lên và hỏi "Hiện tại Docker có chạy không?"
- Một ngày bán 10 gói mè thì bao lâu mới bán hết 1 tỉ gói mè
![](https://blog.vietnamlab.vn/content/images/1toOEZEHToGwm_wswujHaa3A0tLL5z5OL.png)
Một số user case và demo hấp dẫn khác về ứng dụng của Phidata :
- Tạo Trợ Lý Bán Hàng - Tự Động Tạo Đơn Hàng Qua Chat, Thông Báo Qua Slack, và Import Sản Phẩm Từ PDF
- LLM OS: có ở phần demo trên
- Autonomous RAG: ung cấp cho LLMs công cụ để tìm kiếm kiến thức của nó, lịch sử web hoặc lịch sử chat.
- Local RAG: RAG chỉ dùng ở local với Llama3 trên Ollama và PgVector.
- Investment Researcher: Tạo báo cáo đầu tư về cổ phiếu sử dụng Llama3 và Groq.
- News Articles: Viết bài báo sử dụng Llama3 và Groq.
- Video Summaries: Tóm tắt video YouTube sử dụng Llama3 và Groq.
Kết Luận
Phidata là một công cụ mạnh mẽ giúp bạn xây dựng các trợ lý AI thông minh và tự chủ, từ đó hỗ trợ nhiều công việc khác nhau trong doanh nghiệp và cuộc sống hàng ngày. Hãy khám phá và tận dụng Phidata để tối ưu hóa công việc của bạn.