Expert, AI Engineering (40001865)
Mô tả công việc
Job Purpose
- Lead the design and delivery of advanced AI solutions, ensuring high performance, scalability, and cost efficiency in production environments.
- Solve complex AI challenges (modeling, evaluation, multi-agent systems) and develop reusable frameworks and standards adopted across teams.
- Ensure AI systems are developed and operated responsibly, addressing safety, ethical risks, and governance requirements.
Key Accountabilities (1)
AI Craft – Specialization
- Evaluate novel algorithms and training techniques against production constraints; diagnose and unblock the hardest cross-cutting Modeling problems (severe distribution shift, low-resource settings, multi-task architecture); build reusable Modeling patterns adopted across teams.
- Implement complex multi-agent orchestration, long-running stateful workflows, and quality optimisation at scale; evaluate new models and frameworks hands-on; build reusable agent patterns and prompt libraries adopted across teams.
- Evaluates and adopts advanced optimisation techniques; designs multi-tenant serving and capacity strategies; builds performance-regression frameworks and cost dashboards adopted across teams.
- Recognised expert in the sub-domain inside the org; selects between competing approaches based on production constraints; reviews and unblocks others' sub-domain work; tackles the harder problems (low-resource scenarios, distribution shift, real-time constraints); the person teams escalate to.
AI Craft – Evaluation
- Build evaluation tooling and automated experiment pipelines adopted across teams
- Design and run online A/B tests with statistical rigour & calibrate human and LLM-judge evaluation
- Resolve the hardest evaluation problems (subjective tasks, rare-event detection, long-tail safety).
Key Accountabilities (2)
Engineering for Production
- Design testing strategies for AI systems (data validation, model regression, prompt-output, agent-trajectory tests); evaluate and introduce new tooling; build internal libraries, SDKs, and code templates that raise the engineering floor across teams.
- Architect data platforms that serve both ML training and LLM/RAG workloads; design for cost, latency, and freshness trade-offs; build reusable data-quality, lineage, and observability tooling adopted across teams.
- Architect complex AI systems combining ML and agentic components; design for graceful degradation, cost-efficiency, evolvability, and multi-tenancy; build reference implementations and integration patterns adopted by other teams; lead migration and convergence of inherited or siloed systems where warranted; balance near-term delivery against long-term architectural coherence.
Key Accountabilities (3)
Research & Emerging Technologies & AI Safety, Ethics & Responsible AI
- Conduct in-depth evaluation of emerging AI technologies within the assigned domain/project; build prototypes to validate feasibility and risks; provide recommendations for appropriate implementation approaches for specific use cases.
- Contribute to the development and refinement of responsible AI standards within the domain; ensure solutions comply with established guidelines and regulations.
- Analyse ethical and safety risks of AI systems at solution/project level; propose appropriate risk mitigation measures.
- Participate in designing and executing testing activities (e.g., adversarial testing, risk assessments) to improve system robustness and reliability.
- Support AI risk assessments in product reviews, acting as a technical advisor within the domain.
Key Relationships - Direct Manager
Senior Manager/ Director/ Head, AI Engineering
Key Relationships - Direct Reports
Key Relationships - Internal Stakeholders
Business Tribe, Enabling Tribe (IT or Data - Engineer/Governance), division heads (Business, Finance, Risk, Corporate Affairs, IT), CEO, CIO, CDAO, Chief AI Transformation Officer, Chairman
Key Relationships - External Stakeholders
External stakeholders include vendors and partners providing professional services
Success Profile - Qualification and Experiences
Qualifications
- Bachelor’s or master’s degree in computer science, Artificial Intelligence, Data Science, Software Engineering, Information Technology, or a related quantitative field
- Strong foundation in mathematics, statistics, and machine learning principles
- Relevant certifications in AI/ML, Cloud (Azure, AWS, GCP), or Data Engineering are a plus
- English proficiency in line with Techcombank’s policy
Work Experience
- 8+ years of experience in AI/ML, data engineering, and software development, with proven delivery of end-to-end AI solutions in production environments
- Strong expertise in AI specialization, including machine learning, deep learning, NLP, and LLM applications, RAG with hands-on experience in experimentation, model evaluation, and performance tuning
- Demonstrated experience in designing and building scalable AI systems and architectures, including microservices-based solutions and distributed systems
- Solid experience in data engineering for AI, including building ETL/ELT pipelines, data lakes/warehouses, and handling structured & unstructured data using tools like Spark, Kafka, Airflow, and SQL/NoSQL databases
- Proficiency in programming languages such as Python, Go, Java, or Scala, and experience with AI/ML frameworks (e.g., TensorFlow, PyTorch, / JAX, transformers, fine-tuning (LoRA, DPO), distillation, evaluation.)
- Experience in AI experimentation & evaluation, including A/B testing, model benchmarking, validation techniques, and monitoring model performance in production
- Working knowledge of AI Safety, Ethics & Responsible AI, Red-teaming, model risk management, alignment with SBV, MAS, Basel III, ensuring fairness, transparency, explainability, and compliance with regulatory requirements
- Experience in MLOps/LLMOps practices (Level 2), including model deployment, CI/CD pipelines, versioning, and monitoring (e.g., Kubernetes, GPU orchestration, vector DBs, CI/CD for ML, drift and bias monitoring.)
- Proven ability in business needs analysis, translating business problems into AI-driven solutions and measurable outcomes
- Experience managing stakeholders, collaborating with cross-functional teams (business, risk, IT), and influencing decision-making
- Track record of delivering AI projects end-to-end using Agile methodologies, ensuring timelines, quality, and business impact
- Exposure to emerging technologies and research trends in AI, with the ability to evaluate and adopt new approaches when relevant
- Basic experience or potential in AI strategy development and leadership, including mentoring junior team members and contributing to capability building
Phân tích kỹ năng cần có
Phân tích kỹ năng – Vị trí Expert, AI Engineering tại Techcombank
Vị trí thuộc cấp độ Expert (tương đương senior/lead chuyên gia), làm trong AI Transformation Division – một đơn vị chiến lược của Techcombank. Đây không phải vị trí AI engineer thông thường, mà yêu cầu người chuyên gia giải quyết các bài toán khó nhất và xây dựng framework chuẩn cho cả tổ chức.
---
1. Hard Skills bắt buộc (must-have)
a) AI/ML cốt lõi
- Modeling nâng cao: Làm chủ các bài toán khó như distribution shift nghiêm trọng, low-resource learning, multi-task architectures, transfer learning.
- LLM & Foundation Models: Hiểu sâu kiến trúc Transformer, fine-tuning (SFT, RLHF, DPO, LoRA, QLoRA), prompt engineering ở cấp độ production.
- Agentic AI & Multi-agent systems: Thiết kế multi-agent orchestration, long-running stateful workflows, tool-use, ReAct, AutoGPT-style architectures.
- RAG (Retrieval-Augmented Generation): Vector databases (Pinecone, Weaviate, Milvus, pgvector), hybrid search, reranking, chunking strategies.
- MLOps / Production AI: Model serving (vLLM, Triton, TGI), quantization, cost optimization, latency tuning, multi-tenant serving.
b) Kỹ năng Engineering
- Lập trình thành thạo Python; biết thêm Go/Rust/C++ là lợi thế.
- Cloud & Infrastructure: AWS/GCP/Azure, Kubernetes, Docker, Terraform, CI/CD pipelines.
- Data Engineering: Thiết kế data platform phục vụ cả ML training lẫn LLM/RAG workloads (lakehouse, feature stores, data lineage, observability).
- Testing cho AI systems: Data validation, model regression tests, prompt-output tests, agent-trajectory tests.
- Performance & Cost Optimization: Xây cost dashboards, capacity planning, performance-regression frameworks.
c) Evaluation & Experimentation
- Xây dựng evaluation tooling và automated experiment pipelines.
- A/B testing với statistical rigour, LLM-as-judge calibration, human-in-the-loop evaluation.
- Xử lý subjective tasks, rare-event detection, long-tail safety evaluation.
d) AI Safety, Ethics & Responsible AI
- Bias detection, fairness metrics, explainability (SHAP, LIME), privacy (PII handling, differential privacy).
- Governance: model cards, data cards, audit trails, compliance theo chuẩn ngân hàng (NIST AI RMF, ISO 42001 là điểm cộng).
---
2. Soft Skills quan trọng
| Kỹ năng | Mức độ cần | Lý do |
|---|---|---|
| Technical leadership | Cao | Là người teams escalate to, review và unblock người khác |
| Communication & influencing | Cao | Xây framework được adopt across teams |
| Problem decomposition | Cao | Giải các bài toán phức tạp, không có playbook sẵn |
| Cross-functional collaboration | Cao | Làm việc với data, product, risk, compliance ngân hàng |
| Business translation | Trung bình-Cao | Hiểu bài toán ngân hàng (tín dụng, fraud, customer service, risk) |
| Research mindset | Cao | Đánh giá emerging tech, đọc paper, prototype nhanh |
---
3. Chứng chỉ & tài liệu nên có (không bắt buộc nhưng cộng điểm)
Chứng chỉ quốc tế:
- AWS Machine Learning Specialty / AWS Solutions Architect
- GCP Professional ML Engineer
- TensorFlow Developer Certificate / DeepLearning.AI Specializations
- MLOps certifications (MLOps Cube, Coursera MLOps Specialization)
Khóa học nên học:
- Deep Learning Specialization (Andrew Ng)
- LLM Bootcamp (Full Stack Deep Learning, Maxime Labonne)
- Agentic AI courses (DeepLearning.AI, Anthropic)
- Production ML Systems (TFX, Tecton, Feature Stores)
Knowledge base cần đọc:
- Papers: Attention is All You Need, RAG paper, ReAct, Self-RAG, Constitutional AI, MMLU, HELM, BIG-bench.
- Books: "Designing Machine Learning Systems" (Chip Huyen), "LLM Engineering" (Maxime Labonne), "AI Engineering" (Chip Huyen).
- Blogs: Lilian Weng, Sebastian Raschka, Eugene Yan, Anthropic Engineering Blog.
---
4. Bảng so sánh năng lực
| Mảng kiến thức | Junior AI Engineer | Senior AI Engineer | Expert (vị trí này) |
|---|---|---|---|
| Modeling | Train model baseline | Fine-tune, debug | Giải bài toán distribution shift, low-resource |
| Agentic AI | Dùng LangChain cơ bản | Thiết kế multi-agent | Xây reusable patterns, orchestration ở scale |
| Production | Deploy được | Optimize latency | Multi-tenant, cost dashboard, capacity planning |
| Evaluation | Metrics cơ bản | A/B test | LLM-judge calibration, long-tail safety |
| Data platform | ETL pipeline | Feature store | Lakehouse cho cả ML + RAG |
| Leadership | Code review | Mentor junior | Set standards cho toàn division |
---
5. Hiểu biết về ngân hàng (nice-to-have nhưng lợi thế lớn)
- Quy trình tín dụng, phê duyệt khoản vay, fraud detection, KYC/AML.
- Hệ thống core banking, data warehouse ngân hàng.
- Quy định NHNN về AI trong tài chính (Circular, Decision của NHNN về AI).
- Các use case AI phổ biến trong ngân hàng Việt: chatbot CSKH, credit scoring, anti-fraud, eKYC, RPA, personalized recommendation.
---
Tóm lại: Đây là vị trí cấp chuyên gia, yêu cầu sự kết hợp giữa depth kỹ thuật AI/LLM, kỹ năng production engineering chuẩn lớn, khả năng nghiên cứu và dẫn dắt tổ chức về mặt kỹ thuật. Ứng viên lý tưởng có 7+ năm kinh nghiệm ML/AI engineering, trong đó ít nhất 3 năm làm LLM/GenAI ở production.
Chuẩn bị phỏng vấn
Hướng dẫn phỏng vấn – Expert, AI Engineering tại Techcombank
Vị trí cấp Expert thường có quy trình tuyển dụng nhiều vòng, chuyên sâu cả về kỹ thuật lẫn tư duy chiến lược. Dưới đây là quy trình dự kiến và cách chuẩn bị.
---
Quy trình các vòng (dự kiến 4-5 vòng)
Vòng 1: HR Screening / Phone Screen (30-45 phút)
- Giới thiệu tổng quan về Techcombank và AI Transformation Division.
- Xác nhận kinh nghiệm, mức lương kỳ vọng, thời gian onboard.
- Đánh giá fit về văn hóa, mindset.
- Câu hỏi thường gặp:
- "Anh/chị biết gì về chiến lược chuyển đổi số của Techcombank?"
- "Tại sao muốn làm AI cho ngân hàng thay vì tech company?"
- "Mức lương và phúc lợi mong muốn?"
Vòng 2: Technical Deep-dive 1 – ML/LLM Foundations (60-90 phút)
- Câu hỏi modeling & ML cốt lõi:
- Giải thích kiến trúc Transformer, attention mechanism, multi-head attention.
- So sánh SFT vs RLHF vs DPO, khi nào dùng cái nào.
- Bài toán distribution shift: làm sao phát hiện và xử lý?
- Low-resource learning: techniques (few-shot, meta-learning, data augmentation, PEFT).
- Regularization techniques, optimizer choice, learning rate scheduling.
- Câu hỏi LLM:
- Giải thích các sampling strategies (greedy, beam search, top-k, top-p, temperature).
- KV-cache là gì, tại sao quan trọng cho inference cost.
- Quantization (INT8, INT4, GPTQ, AWQ, GGUF): trade-offs giữa quality và latency.
- Flash Attention, PagedAttention, Speculative decoding.
Vòng 3: Technical Deep-dive 2 – System Design & Production (60-90 phút)
- Câu hỏi system design cho AI:
- "Thiết kế hệ thống RAG production phục vụ 1 triệu khách hàng Techcombank, đảm bảo latency < 500ms."
- "Thiết kế multi-agent system cho workflow phê duyệt khoản vay, xử lý long-running state."
- "Thiết kế evaluation pipeline cho chatbot ngân hàng, làm sao detect hallucination và safety?"
- "Làm sao scale LLM serving cho 10K QPS với chi phí tối ưu?"
- Câu hỏi về cost optimization:
- Các chiến lược giảm inference cost (caching, batching, distillation, model routing).
- Multi-tenant serving patterns.
- Câu hỏi về data platform:
- Lakehouse vs Warehouse vs Feature Store.
- Data lineage, observability cho ML pipeline.
Vòng 4: Take-home Assignment / Case Study (thường 4-7 ngày)
- Một bài toán thực tế, ví dụ:
- Xây một RAG system hoàn chỉnh từ document ingestion đến evaluation.
- Viết một evaluation framework cho task cụ thể.
- Thiết kế multi-agent workflow cho một business case.
- Đánh giá: code quality, architecture decision, evaluation methodology, documentation, trade-off discussion.
- Lưu ý: Trình bày rõ trade-offs, đừng cố làm tất cả, focus vào depth của phần quan trọng nhất.
Vòng 5: Final Round – Hiring Manager + Business Stakeholder (60 phút)
- Thảo luận về:
- Vision AI của Techcombank, bạn sẽ contribute gì?
- Leadership style, cách bạn mentor và set technical standards.
- Xử lý conflict giữa research depth và delivery speed.
- Câu hỏi behavioral: teamwork, conflict, failure story.
Vòng 6 (có thể): Director/VP Round
- Strategic alignment, cultural fit, vision.
---
Top 20 câu hỏi hay gặp theo từng vòng
Modeling cơ bản
1. Giải thích self-attention và tại sao Transformer thay thế RNN/LSTM.
2. So sánh LoRA, QLoRA, full fine-tuning; khi nào chọn cái nào.
3. RLHF pipeline gồm những bước gì, reward model được train như thế nào.
4. Catastrophic forgetting khi fine-tune LLM, cách giảm thiểu.
5. Mixture of Experts (MoE) là gì, ưu/nhược điểm trong production.
Agentic AI
6. Multi-agent orchestration patterns (supervisor, hierarchical, swarm).
7. Memory management trong agent: short-term, long-term, episodic.
8. Tool-use và function calling, làm sao đảm bảo agent gọi đúng.
9. Xử lý long-running stateful workflow (checkpointing, retry, idempotency).
10. Agent safety: prompt injection, jailbreak, excessive agency.
Production & MLOps
11. Thiết kế CI/CD cho ML/LLM systems.
12. Model versioning, shadow deployment, canary release.
13. Monitoring cho LLM: latency, throughput, hallucination rate, user feedback.
14. Disaster recovery cho AI systems.
15. Capacity planning: làm sao estimate cost cho LLM serving ở scale.
Evaluation
16. Metrics cho RAG (context precision, faithfulness, answer relevance).
17. LLM-as-judge: ưu điểm, hạn chế, bias.
18. A/B testing với AI systems: những khó khăn đặc thù.
19. Human-in-the-loop evaluation, calibration.
20. Subjective tasks evaluation: pairwise comparison, Elo rating.
---
Tips chuẩn bị quan trọng
1. Nghiên cứu Techcombank trước buổi phỏng vấn
- Đọc về chiến lược chuyển đổi số Techcombank (Techcombank gần đây rất mạnh về digital, app TCB, TikTok partnership...).
- Tìm hiểu AI Transformation Division đã làm gì (public news, LinkedIn team members).
- Hiểu sản phẩm chính: TCB App, Fast Loan, iBank, Credit Card, Insurance partnership.
2. Chuẩn bị 2-3 case studies từ kinh nghiệm cá nhân
- Một case về modeling: bài toán khó bạn giải được, kết quả.
- Một case về production: hệ thống bạn scale lên, cost/performance trade-offs.
- Một case về leadership: bạn set standard cho team hoặc tổ chức.
3. Coding chuẩn bị
- Practice LeetCode Medium-Hard (focus system design, graph, DP).
- Practice viết Python code đẹp: typing, docstring, error handling.
- Có một GitHub repo showcase AI engineering projects (RAG, agent, evaluation framework).
4. Paper review
- Đọc ít nhất 5-10 paper gần đây về: RAG, agents, evaluation, safety.
- Biết rõ các benchmark chuẩn: MMLU, HumanEval, HellaSwag, TruthfulQA, BIG-bench Hard.
5. Dress code
- Smart business: áo sơ mi, quần tây, giày lịch sự.
- Phụ nữ: áo blouse/áo dài lịch sự, makeup nhẹ nhàng.
- Tránh quá casual dù ngân hàng có culture thoáng.
---
Red flags cần tránh
- Không đọc kỹ JD, hỏi những câu đã có sẵn trong JD.
- Chỉ biết gọi API LangChain, không hiểu bên trong.
- Không nắm được production trade-offs (cost, latency, reliability).
- Không biết gì về ngân hàng Việt Nam.
Lộ trình ôn thi
Lộ trình ôn thi & chuẩn bị – 2 tuần trước phỏng vấn
Vị trí Expert AI Engineering đòi hỏi sự chuẩn bị có hệ thống. Dưới đây là lộ trình chi tiết trong 14 ngày.
---
Tuần 1: Nền tảng kỹ thuật vững (Ngày 1-7)
Ngày 1-2: ML & Deep Learning cốt lõi
- Review lại các khái niệm: bias-variance tradeoff, regularization (L1/L2/dropout), optimizer (SGD, Adam, AdamW), learning rate scheduling.
- Đọc lại kiến trúc Transformer (paper "Attention is All You Need").
- Thực hành: implement multi-head attention từ đầu bằng PyTorch.
- Tài liệu: 3Blue1Brown series về Neural Networks, fast.ai course.
Ngày 3-4: LLM nâng cao
- Đọc: "A Survey of Large Language Models" (Zhao et al.), "Hugging Face NLP Course".
- Hiểu sâu: pre-training, fine-tuning (SFT, RLHF, DPO), PEFT (LoRA, QLoRA), quantization (bitsandbytes, GPTQ, AWQ).
- Thực hành: fine-tune một LLM nhỏ (Llama-3 8B hoặc Mistral 7B) trên một custom dataset, đánh giá quality.
- Đọc blog Lilian Weng về LLM (prompt engineering, agents, RAG).
Ngày 5: RAG nâng cao
- Hiểu: retrieval (BM25, dense retrieval, hybrid), reranking, chunking strategies, query rewriting, HyDE, self-RAG.
- Thực hành: xây một RAG pipeline hoàn chỉnh với LangChain/LlamaIndex, vector DB (Chroma/Qdrant/Milvus).
- Đánh giá: RAGAS framework.
- Đọc: Anthropic blog về context engineering.
Ngày 6: Agentic AI
- Đọc: paper ReAct, AutoGPT, BabyAGI, Anthropic Building Effective Agents.
- Hiểu: tool-use, function calling, multi-agent (LangGraph, CrewAI, AutoGen), memory management.
- Thực hành: xây một multi-agent system đơn giản cho một use case.
- Hiểu: Agent safety, prompt injection, excessive agency mitigation.
Ngày 7: Production AI & MLOps
- Đọc: "Designing Machine Learning Systems" (Chip Huyen) – chapters về data engineering, model deployment, monitoring.
- Hiểu: vLLM, Triton Inference Server, TGI (Text Generation Inference), streaming, batching, quantization trong production.
- Hiểu: cost optimization (caching, distillation, model routing, speculative decoding).
- Thực hành: deploy một LLM trên AWS/GCP, set up monitoring.
---
Tuần 2: Ứng dụng ngân hàng & luyện phỏng vấn (Ngày 8-14)
Ngày 8: Hiểu biết ngân hàng
- Đọc về Techcombank: lịch sử, chiến lược số hóa, sản phẩm chính, đối thủ (Vietcombank, VPBank, MBBank, ACB).
- Tìm hiểu các use case AI trong ngân hàng Việt: chatbot, credit scoring, fraud detection, eKYC, anti-money laundering, RPA.
- Đọc quy định NHNN về AI, công nghệ tài chính, bảo mật dữ liệu.
- Tìm hiểu AI Transformation Division đã public gì (LinkedIn, báo chí, blog Techcombank).
Ngày 9: Evaluation & Safety
- Đọc: HELM paper, BIG-bench, Anthropic Constitutional AI.
- Hiểu: LLM-as-judge, human evaluation, A/B testing với statistical significance.
- Thực hành: xây một evaluation pipeline sử dụng RAGAS + LLM-as-judge.
- Hiểu: AI Safety, bias detection, fairness, privacy (PII), explainability.
- Đọc: NIST AI Risk Management Framework, EU AI Act (high-level).
Ngày 10: System Design luyện tập
- Practice 3 case studies:
1. Thiết kế RAG system cho ngân hàng (100K customers, latency < 500ms).
2. Thiết kế chatbot CSKH đa kênh (mobile, web, Zalo OA).
3. Thiết kế fraud detection platform real-time.
- Vẽ architecture, justify từng decision, nêu trade-offs.
Ngày 11-12: Mock interview
- Tự practice với bạn bè hoặc thuê mentor (các platform như IGotAnOffer, Exponent, PrepInsta).
- Practice câu trả lời behavioral (STAR method):
- "Tell me about a time you had to solve a very hard technical problem."
- "Tell me about a time you influenced technical direction across teams."
- "Tell me about a failure and what you learned."
- Record lại, xem lại, cải thiện.
Ngày 13: Final review & GitHub
- Đảm bảo GitHub repo showcase rõ:
- 1 project RAG production-grade (có evaluation, monitoring).
- 1 project multi-agent.
- 1 project về evaluation framework.
- Code chất lượng: README rõ ràng, architecture diagram, trade-off discussion.
- Update LinkedIn, CV với keywords phù hợp.
- Chuẩn bị 2 trang note tóm tắt kinh nghiệm, số liệu cụ thể (improved X by Y%, saved $Z).
Ngày 14: Ngày nghỉ trước phỏng vấn
- Đọc lại JD, ghi chú các điểm cần highlight.
- Chuẩn bị outfit, hành trang, địa điểm (nếu offline) hoặc test thiết bị (nếu online).
- Đi ngủ sớm, không học thêm.
---
Tài liệu tham khảo tổng hợp
Books
- "Designing Machine Learning Systems" – Chip Huyen
- "AI Engineering" – Chip Huyen
- "Hands-On Large Language Models" – Jay Alammar & Maarten Grootendorst
- "Build a Large Language Model (From Scratch)" – Sebastian Raschka
- "Deep Learning" – Goodfellow, Bengio, Courville
Courses
- Deep Learning Specialization (Coursera – Andrew Ng)
- LLM Bootcamp (Full Stack Deep Learning)
- MLOps Specialization (Coursera – DeepLearning.AI)
- LangChain for LLM Application Development (DeepLearning.AI)
- AI Agents in LangGraph (DeepLearning.AI)
Blogs & Newsletters
- Lilian Weng Blog (lilianweng.github.io)
- Sebastian Raschka Blog
- Eugene Yan Blog
- Anthropic Engineering Blog
- OpenAI Blog
- Hugging Face Blog
- The Batch (DeepLearning.AI weekly newsletter)
Papers quan trọng
- Attention is All You Need
- RAG (Lewis et al. 2020)
- Self-RAG
- ReAct
- Constitutional AI
- HELM: A Holistic Evaluation of Language Models
- LoRA: Low-Rank Adaptation
- QLoRA
- Speculative Decoding
- Flash Attention
- vLLM: Efficient Memory Management for LLM Serving
- Anthropic Building Effective Agents
Tools & Frameworks cần biết
- Python, PyTorch, JAX
- Hugging Face Transformers, PEFT, TRL, bitsandbytes
- LangChain, LangGraph, LlamaIndex
- vLLM, TGI, Triton
- Vector DBs: Pinecone, Weaviate, Milvus, pgvector, Qdrant, Chroma
- Evaluation: RAGAS, DeepEval, TruLens, Phoenix (Arize)
- Monitoring: LangSmith, Langfuse, Helicone
- Cloud: AWS SageMaker, GCP Vertex AI, Azure ML
- Experiment tracking: Weights & Biases, MLflow, DVC
- Orchestration: Kubernetes, Airflow, Prefect, Dagster
Tư vấn nghề nghiệp
Lời khuyên sự nghiệp – AI Engineer tại ngân hàng Việt Nam
Bức tranh ngành AI ngân hàng Việt Nam
Ngân hàng Việt Nam đang bước vào cuộc đua AI rất quyết liệt. Techcombank, MBBank, VPBank, Vietcombank, ACB, TPBank, MSB đều đã có những đầu tư lớn. Đặc biệt:
- Techcombank: Mạnh về digital banking, đã có TCB Pay, đối tác TikTok Shop, đẩy mạnh AI cho tín dụng, chống gian lận, CSKH.
- MBBank: M-Family, AI voice bot, nổi tiếng về chuyển đổi số.
- VPBank: Đầu tư lớn vào AI/data team.
Vị trí Expert AI Engineering tại Techcombank thuộc AI Transformation Division – một dấu hiệu rõ ràng cho thấy ngân hàng đang nghiêm túc đưa AI vào chiến lược cốt lõi, không phải làm cho có.
---
Lộ trình thăng tiến trong lĩnh vực AI ngân hàng
| Cấp bậc | Kinh nghiệm | Vai trò | Mức lương kỳ vọng (VNĐ/tháng)* |
|---|---|---|---|
| Junior/Mid AI Engineer | 1-3 năm | Build features, train models | 25-60 triệu |
| Senior AI Engineer | 3-6 năm | Lead projects, design systems | 60-150 triệu |
| Expert/Staff AI Engineer | 6-10 năm | Set standards, tackle hard problems | 150-300 triệu |
| Principal/Distinguished | 10+ năm | Define vision, strategic impact | 300-600 triệu+ |
| Head of AI / VP AI | 12+ năm | Lead division, business strategy | 500 triệu - 1 tỷ+ |
*Lưu ý: Mức lương có thể thay đổi tùy ngân hàng và thời điểm. Con số trên là ước lượng tham khảo dựa trên thị trường hiện tại.
Ở Techcombank, các vị trí AI Engineering có thể đi theo 2 hướng:
- Technical track (IC – Individual Contributor): Engineer → Senior → Expert → Principal → Distinguished.
- Management track: Engineer → Tech Lead → Engineering Manager → Director → VP.
---
So sánh: AI Engineer ngân hàng vs Tech company
| Tiêu chí | Ngân hàng | Tech company (FPT, VNG, MoMo...) |
|---|---|---|
| Tốc độ innovation | Trung bình, có governance chặt | Nhanh, ít regulation hơn |
| Data quality & scale | Rất lớn, nhưng nhiều legacy | Tùy sản phẩm |
| Mức lương | Cao, ổn định, benefits tốt | Có thể cao hơn (equity, stock) |
| Impact trực tiếp | Rất lớn (hàng triệu khách hàng) | Lớn nhưng tùy product |
| Work-life balance | Tốt hơn, làm giờ hành chính | Có thể intense hơn |
| Học hỏi | Business banking domain, regulation | Pure tech, scale engineering |
| Career stability | Cao | Tùy công ty |
---
Kỹ năng cần phát triển thêm để thăng tiến
1. Business acumen
- Hiểu sâu ngân hàng: tín dụng, thanh toán, thẻ, BHXH, bảo hiểm, wealth management.
- Đọc báo cáo tài chính ngân hàng, hiểu KPI kinh doanh (NIM, CASA, NPL ratio).
- Học qua các khóa: Coursera Financial Markets (Yale), Corporate Finance (Wharton).
2. Leadership skills
- Technical writing: viết design docs, post-mortem, RFC.
- Mentoring: dẫn dắt junior, set coding standards.
- Cross-functional collaboration: làm việc với product, risk, compliance, marketing.
- Public speaking: conference talks, internal tech talks.
3. Emerging tech cần theo dõi
- Agentic AI: Multi-agent systems, AutoGen, LangGraph.
- Multimodal: GPT-4V, Gemini, audio/video understanding.
- Small Language Models (SLM): Phi-3, Gemma 2, Mistral Small – phù hợp ngân hàng vì cost.
- On-device AI: chạy LLM trên mobile, edge devices.
- Vector databases & hybrid search: pgvector, Elasticsearch hybrid.
- AI Safety & Alignment: red teaming, adversarial testing.
4. Research & open-source contribution
- Contribute open-source (LangChain, LlamaIndex, vLLM).
- Viết blog, chia sẻ kiến thức (Medium, Substack, Viblo, TopDev).
- Submit paper hoặc workshop tại hội nghị (NeurIPS, ACL, EMNLP).
---
Lời khuyên thực tế khi ứng tuyển
1. Highlight impact có số liệu
- Không nói "tôi xây RAG system". Mà nói "tôi xây RAG system giúp giảm 40% thời gian xử lý khiếu nại của 2 triệu khách hàng, tiết kiệm 2 tỷ VND/năm chi phí CSKH".
2. Showcase production mindset
- Đừng chỉ show notebook Jupyter. Show:
- Hệ thống deployed thực tế, có monitoring.
- Cost optimization analysis.
- A/B test results.
- Failure case analysis.
3. Demonstrate leadership
- Chia sẻ cách bạn set standards (coding style, review process).
- Ví dụ: review code, mentor junior, đề xuất architecture change, viết RFC.
4. Nắm vững banking context
- Biết use case cụ thể của AI trong ngân hàng.
- Hiểu rủi ro: hallucination trong tư vấn tài chính, bias trong credit scoring, privacy violation.
- Biết quy định: Decision 2345/NHNN, Circulars về fintech.
5. Đàm phán lương
- Research mức lương trên VietnamWorks, TopDev, ITviec cho vị trí tương đương.
- Đặt range (không nói 1 con số), ví dụ: "mong muốn 150-200 triệu tùy package".
- Đàm phán cả bonus, benefits (BHXH full, thưởng Tết 13-14 tháng, stock/ESOP nếu có, learning budget).
---
Kết luận
Vị trí Expert AI Engineering tại Techcombank là cơ hội rất tốt nếu bạn muốn:
- Làm AI ở scale lớn (hàng triệu khách hàng).
- Kết hợp cutting-edge tech với business impact thực tế.
- Có mức lương tốt cùng work-life balance hợp lý.
- Xây dựng nền tảng AI cho cả ngành tài chính Việt Nam.
Thách thức lớn nhất là navigation trong môi trường heavily regulated, nhưng đây cũng chính là nơi AI có impact thực sự, không phải là demo hay prototype.
Câu hỏi thường gặp
Em mới ra trường ngành Khoa học Dữ liệu, có thể apply vị trí Expert AI Engineering tại Techcombank không?
Thành thật mà nói thì rất khó, vì vị trí Expert thường yêu cầu 7-10 năm kinh nghiệm thực chiến với LLM/ML ở production. Với nền tảng của em, em nên target các vị trí Junior/Mid AI Engineer trước (khoảng 1-3 năm kinh nghiệm), hoặc Data Scientist, ML Engineer tại các ngân hàng. Hãy tích lũy 3-5 năm làm production AI, build portfolio mạnh trên GitHub, đóng góp open-source, viết blog chia sẻ, rồi quay lại target Expert khi đã đủ năng lực. Techcombank cũng có các vị trí fresher/junior riêng, em có thể theo dõi trên website tuyển dụng của họ.
Tôi đang là Backend Engineer 5 năm tại một fintech, muốn chuyển sang AI Engineer tại ngân hàng. Có khả thi không?
Hoàn toàn khả thi, và đây là background rất có giá trị. Backend engineering 5 năm cho em thế mạnh về production systems, scalability, code quality – những thứ mà nhiều AI engineer thiếu. Em cần bổ sung: (1) Kiến thức ML/DL cốt lõi (3 tháng học Andrew Ng hoặc fast.ai), (2) LLM engineering (2-3 tháng thực hành với Hugging Face, LangChain), (3) Một vài project showcase (RAG system, fine-tuning, evaluation framework), (5) Tìm hiểu use case AI trong ngân hàng. Vị trí Senior AI Engineer là target hợp lý sau 6-12 tháng chuẩn bị. Lộ trình này khá rõ ràng và có nhiều người đi thành công rồi.
Mức lương cho vị trí Expert AI Engineering tại Techcombank khoảng bao nhiêu? Có thể đàm phán được không?
Mức lương ở vị trí Expert tại các ngân hàng lớn ở Việt Nam (bao gồm Techcombank) hiện tại dao động khoảng 150-300 triệu VNĐ/tháng gross, tùy thuộc vào: (1) Kinh nghiệm và độ sâu kỹ thuật, (2) Thương hiệu cá nhân (open-source, paper, conference talks), (3) Offer cạnh tranh từ công ty khác, (4) Khả năng đóng góp business impact. Lưu ý đây là mức ước lượng, có thể thay đổi tùy thời điểm và chính sách riêng của Techcombank. Đàm phán được – em nên research kỹ trên VietnamWorks, TopDev, ITviec và các group Facebook về lương AI, đặt range rộng một chút, và đàm phán cả package (bonus, benefits, learning budget, WFH) chứ không chỉ base salary.
Làm AI Engineer ở ngân hàng có cơ hội phát triển bằng làm ở công ty product tech không?
Mỗi môi trường có ưu/nhược điểm riêng. Ở ngân hàng: business impact cực lớn (triệu khách hàng), data nhiều và đa dạng, vấn đề thực tế phức tạp hơn (compliance, risk), work-life balance tốt hơn, mức lương cạnh tranh. Hạn chế: tốc độ innovation chậm hơn vì governance, có thể ít "cutting-edge" hơn các công ty AI-first. Ở tech company: tốc độ innovation nhanh, công nghệ mới nhất, nhưng có thể ít stable hơn, work-life đôi khi intense. Thực tế, nhiều AI engineer top ở Việt Nam đã chọn ngân hàng vì data scale, business impact, và stability. Nếu em muốn vừa làm AI vừa hiểu finance, ngân hàng là lựa chọn rất tốt.
Tôi nên học thêm chứng chỉ nào để tăng cơ hội pass phỏng vấn vị trí này?
Chứng chỉ không phải yếu tố quyết định ở vị trí Expert – kinh nghiệm production và portfolio quan trọng hơn nhiều. Tuy nhiên, một số chứng chỉ có giá trị tham khảo: (1) AWS Machine Learning Specialty hoặc AWS Solutions Architect – chứng minh cloud skills, (2) Google Professional ML Engineer – nếu GCP, (3) TensorFlow Developer Certificate – nền tảng ML, (4) Các specialization trên Coursera (Deep Learning, MLOps, LLM). Quan trọng hơn: em hãy build 2-3 project production-grade trên GitHub (RAG system, multi-agent, evaluation framework), đóng góp open-source, viết blog chia sẻ kiến thức. Đây là những thứ recruiter và hiring manager thực sự đánh giá cao.
Câu hỏi system design nào hay gặp nhất khi phỏng vấn AI Engineer tại ngân hàng?
Top 3 câu hỏi system design hay gặp: (1) 'Thiết kế chatbot CSKH cho ngân hàng xử lý 10 triệu khách hàng' – test khả năng thiết kế LLM system scale, multi-tenant, cost optimization. (2) 'Thiết kế hệ thống phát hiện gian lận real-time với AI' – test streaming, low-latency, model serving, monitoring. (3) 'Thiết kế RAG system cho truy vấn nội bộ ngân hàng (chính sách, quy định)' – test retrieval, security, audit, evaluation. Khi trả lời, nhớ: (a) Clarify requirements (scale, latency, accuracy, cost), (b) Architecture diagram rõ ràng, (c) Discuss trade-offs từng quyết định, (d) Nêu monitoring & evaluation strategy, (e) Edge cases & failure handling. Đừng quên banking context: compliance, PII handling, audit trail.
So với làm AI ở nước ngoài (Mỹ, Singapore), cơ hội tại Việt Nam có đáng cân nhắc không?
Câu trả lời tùy thuộc vào giai đoạn sự nghiệp và mục tiêu cá nhân. Làm ở nước ngoài (đặc biệt Mỹ, Singapore): mức lương cao hơn nhiều (có thể gấp 3-5 lần), làm việc với cutting-edge tech, network quốc tế, exposure to large-scale systems. Tuy nhiên: xa gia đình, visa stress, work culture khác, cost of living cao. Ở Việt Nam: gần gia đình, văn hóa quen thuộc, chi phí thấp hơn, cơ hội ở ngân hàng lớn như Techcombank đang rất tốt, business impact rõ ràng. Với vị trí Expert tại Techcombank, em sẽ làm việc với data scale cũng rất lớn, học được rất nhiều, và đóng góp cho Việt Nam. Nếu gia đình ổn định, có thể cân nhắc đi nước ngoài 2-3 năm rồi về với kinh nghiệm và network tốt hơn.
Lộ trình học AI trong 6 tháng cho người mới bắt đầu từ đâu?
Lộ trình 6 tháng cho người mới: Tháng 1-2: Python nâng cao + ML cơ bản (scikit-learn, supervised/unsupervised, evaluation metrics). Học qua Coursera Andrew Ng hoặc fast.ai. Tháng 3: Deep Learning (PyTorch, Transformer, CNN, RNN), thực hành build model. Tháng 4: LLM cơ bản (Hugging Face, prompt engineering, basic RAG, LangChain). Tháng 5: LLM nâng cao (fine-tuning với PEFT, evaluation, deployment). Tháng 6: Project cuối khóa (xây một RAG chatbot hoàn chỉnh, có evaluation, deploy lên cloud), update portfolio. Quan trọng: mỗi tháng build 1-2 project trên GitHub, viết blog chia sẻ, tham gia cộng đồng (Viblo, TopDev, group Facebook AI/ML). Sau 6 tháng, em đủ năng lực apply Junior/Mid AI Engineer. Để target vị trí Expert, cần thêm 5-7 năm kinh nghiệm production.