AI ML Ops
Mô tả công việc
Job Purpose
The AI MLOps is responsible for operating, securing, and optimizing TCB's AI platform ecosystem including AWS Bedrock, agentic AI solutions, and internal machine learning services. The role ensures AI use cases are deployed from experimentation to production in compliance with ITSM processes, security standards, and regulatory requirements of the insurance industry. The position drives operational excellence, automation, reliability, observability, and cost optimization across the AI platform lifecycle.
Key Accountabilities (1)
1. AI Platform Operations & Reliability
- Deploy, operate, and maintain AI infrastructure on AWS platforms including Bedrock, SageMaker, EKS, and Lambda.
- Ensure platform availability, scalability, and performance in accordance with agreed SLA and latency targets.
- Manage AI services lifecycle, capacity planning, and production readiness.
- Support deployment and operationalization of AI use cases across business functions.
2. MLOps / LLMOps Pipeline Management
- Design, implement, and optimize CI/CD pipelines for AI models, prompts, and AI agents.
- Establish model lifecycle management including versioning, evaluation, testing, deployment, and rollback mechanisms.
- Automate AI delivery processes to improve deployment reliability and reduce operational risks.
- Implement best practices for model governance and production AI operations.
Key Accountabilities (2)
3. Monitoring, Incident & Change Management
- Establish observability frameworks covering logs, metrics, traces, token consumption, and AI output quality.
- Monitor system health and proactively identify operational risks.
- Investigate and resolve incidents following Jira ITSM and organizational service management processes.
- Support change management processes and ensure controlled deployment of AI services.
4. Cost Management (FinOps)
- Monitor and analyze AI platform consumption and token usage across departments.
- Implement budgeting controls, quota management, cost alerts, and optimization initiatives.
- Produce regular utilization and cost reports for management stakeholders.
- Recommend efficiency improvements to maximize AI platform ROI.
Key Accountabilities (3)
5. Security, Compliance & Governance
- Manage access controls and authentication through Azure AD (Microsoft Entra ID) and enterprise identity services.
- Implement AI guardrails and governance controls to ensure secure and responsible AI usage.
- Maintain audit trails, security logs, and compliance reporting.
- Ensure customer data protection and compliance with internal policies and applicable personal data protection regulations.
6. Collaboration & Documentation
- Collaborate with software engineering, infrastructure, security, and business teams to transition AI solutions into production.
- Develop and maintain operational runbooks, knowledge articles, and technical documentation on Confluence.
- Provide operational guidance and best practices for AI platform users and stakeholders.
- Support continuous improvement initiatives across AI operations and platform management.
Key Relationships - Direct Manager
Head of IT Operation & Infrastructure
Key Relationships - Direct Reports
Key Relationships - Internal Stakeholders
Departments in company
Key Relationships - External Stakeholders
Technology provider/vendor, security partner, professional communities,...
Success Profile - Qualification and Experiences
Qualifications
- Bachelor's degree in Information Technology, Computer Science, Computer Engineering, Artificial Intelligence, or related disciplines.
Work Experience
Mandatory
- Minimum 4 years of experience in DevOps, SRE, Cloud Engineering, or related infrastructure roles.
- Minimum 1 year of hands-on experience operating AI/ML or Generative AI/LLM systems in production environments.
- Strong experience with AWS services including IAM, VPC, Bedrock, SageMaker, EKS, Lambda, or equivalent cloud AI services.
- Practical experience with Docker, Kubernetes, Terraform, and CI/CD tools such as GitHub Actions or GitLab CI.
- Proficiency in Python and Bash scripting.
- Good understanding of APIs, RAG (Retrieval-Augmented Generation), Vector Databases, Prompt Engineering, and Model Evaluation.
- Experience with monitoring and observability platforms such as CloudWatch, Prometheus, Grafana, or similar solutions.
- Knowledge of ITIL / ITSM processes and operational governance.
Preferred
- AWS certifications such as:
- AWS Certified Solutions Architect
- AWS Certified DevOps Engineer Professional
- AWS Certified Machine Learning Specialty
- Experience in FinOps practices and cloud cost optimization.
- Experience with Azure AD / Microsoft Entra ID and SSO integration.
- Experience working in insurance, banking, or financial services environments.
- Strong automation mindset and continuous improvement approach.
Foreign Language
- English proficiency sufficient for reading technical documentation, collaborating with technology vendors, and supporting platform operations.
Phân tích kỹ năng cần có
Phân tích kỹ năng cần có cho vị trí AI MLOps tại Techcombank
Vị trí AI MLOps tại Techcombank là một role khá đặc thù, kết hợp giữa vận hành hạ tầng AI/ML, DevOps chuyên sâu, quản trị chi phí (FinOps) và tuân thủ bảo mật trong môi trường ngân hàng. Đây không phải là vị trí Data Scientist thuần túy, mà thiên về kỹ thuật vận hành và platform reliability.
---
1. Hard Skills bắt buộc
a) Cloud & Infrastructure (AWS là chính)
| Kỹ năng | Mức yêu cầu | Ghi chú |
|---|---|---|
| AWS Bedrock | Trung bình – Cao | Hiểu cách invoke foundation model, quản lý provisioned throughput |
| AWS SageMaker | Trung bình – Cao | Training, endpoint, model registry, pipeline |
| AWS EKS (Kubernetes) | Cao | Quản lý cluster, Helm chart, autoscaling |
| AWS Lambda | Trung bình | Serverless orchestration cho AI workloads |
| AWS IAM, VPC, S3, CloudWatch | Trung bình | Nền tảng bảo mật & logging |
b) MLOps / LLMOps
- CI/CD cho model: GitHub Actions / GitLab CI / Jenkins / AWS CodePipeline
- Model versioning: MLflow, DVC, SageMaker Model Registry
- Feature Store (SageMaker Feature Store, Feast)
- Container: Docker, Helm, Kubernetes manifests
- IaC: Terraform, AWS CDK, Ansible
d) Observability & Monitoring
- Logging: CloudWatch, ELK stack, Splunk
- Metrics: Prometheus, Grafana
- Tracing: AWS X-Ray, OpenTelemetry
- AI-specific: token consumption tracking, model drift, output quality metrics
e) Security & Identity
- Azure AD / Microsoft Entra ID (SSO, RBAC cho AI services)
- AWS IAM policies, KMS, Secrets Manager
- AI guardrails: content filtering, prompt injection prevention
f) ITSM & Quy trình
- Jira Service Management (incident, change, problem)
- Confluence (documentation)
- SLA management, change advisory board (CAB)
---
2. Soft Skills quan trọng
- Tư duy hệ thống (Systems Thinking): Nhìn được toàn bộ pipeline từ data → model → API → monitoring
- Quản lý sự cố dưới áp lực: Khi AI production gặp sự cố, ngân hàng mất tiền thật → cần bình tĩnh
- Giao tiếp đa bên: Làm việc với Data Scientist (hiểu model), DevOps (hiểu infra), Security (hiểu compliance), Business (hiểu use case)
- Tài liệu hóa tốt: Runbook phải rõ ràng để người khác on-call thay mình được
- Chủ động cảnh báo vấn đề: Proactive, không đợi sếp hỏi
---
3. Chứng chỉ nên có (ưu tiên)
| Chứng chỉ | Mức độ ưu tiên | Lý do |
|---|---|---|
| AWS Solutions Architect Associate/Professional | ⭐⭐⭐⭐⭐ | JD nặng về AWS |
| AWS Machine Learning Specialty | ⭐⭐⭐⭐⭐ | Hiểu SageMaker, Bedrock sâu |
| CKA (Certified Kubernetes Administrator) | ⭐⭐⭐⭐ | EKS là core |
| AWS DevOps Professional | ⭐⭐⭐⭐ | CI/CD + automation |
| Terraform Associate | ⭐⭐⭐ | IaC phổ biến |
| ITIL Foundation | ⭐⭐⭐ | Liên quan ITSM |
| Azure AZ-900 / SC-300 | ⭐⭐ | Có Azure AD trong JD |
---
4. So sánh mức độ khó giữa các nhóm kỹ năng
| Nhóm kỹ năng | Độ khó | Độ quan trọng cho JD |
|---|---|---|
| AWS Services | Cao | Rất cao |
| Kubernetes/EKS | Cao | Cao |
| MLOps pipelines | Cao | Rất cao |
| Python scripting | Trung bình | Trung bình |
| Security/Compliance | Trung bình – Cao | Cao – vì là ngân hàng |
| ITSM process | Thấp – Trung bình | Trung bình |
| FinOps | Trung bình | Đang nổi, dễ học |
---
5. Kinh nghiệm nền tảng phù hợp
Ứng viên phù hợp thường đến từ:
- DevOps engineer 2-3 năm muốn chuyển hướng sang AI
- MLOps engineer đã làm ở startup/tech company
- Cloud engineer có kinh nghiệm AWS, muốn specialize vào AI workloads
- Backend engineer quen Kubernetes, muốn move sang platform role
Không phù hợp: Data Scientist thuần túy (thiếu infra), Business Analyst (thiếu kỹ thuật).
Chuẩn bị phỏng vấn
Hướng dẫn phỏng vấn vị trí AI MLOps – Techcombank
Dựa trên kinh nghiệm tuyển dụng ngành ngân hàng, quy trình phỏng vấn vị trí AI MLOps ở Techcombank thường có 4-5 vòng, kéo dài 2-4 tuần. Đây là vị trí khá "khó nhằn" vì vừa đòi hỏi chuyên môn sâu vừa cần hiểu compliance ngân hàng.
---
Quy trình tổng thể (ước lượng)
| Vòng | Hình thức | Thời lượng | Nội dung chính |
|---|---|---|---|
| Vòng 1: HR Screen | Phone/Online | 30-45 phút | Background, motivation, mức lương |
| Vòng 2: Technical Test | Online/Onsite | 60-90 phút | Coding + trắc nghiệm AWS/MLOps |
| Vòng 3: Technical Interview | Onsite/Video | 60-90 phút | Deep-dive kỹ thuật với Senior Engineer |
| Vòng 4: Manager/Lead Interview | Onsite | 45-60 phút | Tình huống, cách làm việc, culture fit |
| Vòng 5 (nếu có): Final with Director | Onsite | 30-45 phút | Tầm nhìn, lộ trình, thương lượng |
---
Vòng 1 – HR Screen
Câu hỏi hay gặp:
- Giới thiệu bản thân và kinh nghiệm liên quan đến AI/MLOps?
- Tại sao muốn làm việc tại Techcombank?
- Mức lương hiện tại và kỳ vọng?
- Bạn biết gì về vị trí AI MLOps tại TCB?
- Notice period bao lâu?
Tips:
- Nhấn mạnh đã làm việc với AWS (đặc biệt Bedrock/SageMaker nếu có)
- Thể hiện sự hiểu biết về ngân hàng (Techcombank đang chuyển đổi số mạnh, đầu tư AI)
- Mức lương nên nói range, ví dụ: "Em kỳ vọng 60-80 triệu tùy package"
---
Vòng 2 – Technical Test
Dạng bài thường gặp:
- Trắc nghiệm AWS services (EKS, Lambda, IAM, VPC)
- Bài tập Terraform/IaC viết module
- Debug YAML pipeline (GitHub Actions / GitLab CI)
- SQL truy vấn log/metrics
- Câu hỏi tình huống về incident handling
Tips:
- Luyện trên AWS Skill Builder, Whizlabs, Tutorials Dojo
- Đọc kỹ AWS Well-Architected Framework
- Practice Kubernetes commands, Helm chart structure
---
Vòng 3 – Technical Interview (quan trọng nhất)
Câu hỏi kỹ thuật hay gặp:
Về AWS & Infrastructure
1. Sự khác nhau giữa AWS Bedrock và SageMaker khi triển khai LLM?
2. Làm thế nào để secure một Bedrock endpoint trong môi trường ngân hàng?
3. EKS vs Lambda cho AI workloads – khi nào dùng cái nào?
4. Cách thiết kế VPC peering/private link cho AI service gọi model?
Về MLOps
5. Trình bày một pipeline CI/CD bạn đã thiết kế cho ML model (từ training → staging → production)?
6. Làm sao để rollback một model khi nó gây lỗi business?
7. Cách track data drift và model drift trong production?
8. Sự khác nhau giữa MLOps và LLMOps?
Về Observability
9. Những metrics nào bạn sẽ monitor cho một AI service trong ngân hàng?
10. Làm sao phát hiện prompt injection hoặc abuse?
Về Incident & ITSM
11. Một model production đang trả về kết quả sai cho 30% requests. Bạn xử lý thế nào? (theo quy trình ITSM)
12. Bạn có kinh nghiệm on-call? Cách handle P0 incident?
Về Security/Compliance
13. Cách vụ implement RBAC cho team Data Scientist dùng Bedrock mà không leak customer data?
14. Khái niệm AI guardrails là gì? Bạn sẽ design thế nào?
Tips:
- Trả lời theo STAR: Situation – Task – Action – Result
- Vẽ diagram để giải thích kiến trúc
- Thừa nhận nếu không biết: "Em chưa có kinh nghiệm trực tiếp với X, nhưng em đã đọc và hiểu concept…"
- Chuẩn bị 2-3 war story từ project cũ (kể có chi tiết số liệu)
---
Vòng 4 – Manager Interview
Câu hỏi hay gặp:
- Bạn muốn đi theo hướng technical sâu hay quản lý trong 3-5 năm tới?
- Nếu business yêu cầu deploy model trong 1 tuần mà team bạn thấy không khả thi, bạn làm sao?
- Bạn đã bao giờ disagree với sếp về technical decision? Kết quả thế nào?
- Cách bạn document để người khác cover khi bạn nghỉ phép?
Tips:
- Thể hiện sự trưởng thành, không "anh làm theo em"
- Đưa ra cách negotiate hợp lý giữa business và engineering
---
Vòng 5 – Final / Director
- Thường hỏi về tầm nhìn dài hạn
- Thương lượng package (lương, bonus, stock, OT)
- Có thể hỏi về contribution tới cộng đồng/tổ chức
---
Dress code
- Vòng HR/Technical test: Smart casual hoặc áo polo là ok
- Vòng onsite (Manager/Director): Áo sơ mi + quần âu, giày tây. Không cần vest nhưng phải gọn gàng
- Tóc gọn, không nước hoa nặng, không đeo nhiều phụ kiện
---
Checklist trước ngày phỏng vấn
- [ ] Đọc lại JD, highlight từng kỹ năng, chuẩn bị ví dụ tương ứng
- [ ] Research Techcombank: báo chí, chiến lược chuyển đổi số, sản phẩm AI gần đây
- [ ] Ôn AWS core services (đặc biệt Bedrock, SageMaker)
- [ ] Practice vẽ architecture diagram
- [ ] Chuẩn bị 5 câu hỏi để hỏi interviewer
- [ ] Mang theo CV in sẵn (2-3 bản)
Lộ trình ôn thi
Lộ trình ôn tập cho vị trí AI MLOps – Techcombank
Vị trí này đòi hỏi sự kết hợp nhiều kiến thức. Nếu bạn có 1-2 tuần chuẩn bị, dưới đây là lộ trình được ưu tiên hóa.
---
Tuần 1 – Nền tảng AWS & MLOps
Ngày 1-2: AWS Core cho AI
- Đọc tài liệu AWS Bedrock (developer guide)
- Đọc tài liệu SageMaker (focus: pipeline, endpoint, model registry)
- Hiểu các use case của LLM trong ngân hàng: chatbot, document processing, fraud detection
- Tài liệu:
- aws.amazon.com/bedrock/
- docs.aws.amazon.com/sagemaker/
- Khóa AWS Skill Builder (miễn phí): "Getting Started with Bedrock"
Ngày 3-4: Kubernetes & EKS
- Ôn Kubernetes cơ bản: Pod, Deployment, Service, Ingress, ConfigMap, Secret
- Học EKS specifics: managed node group, Fargate, IRSA (IAM Roles for Service Accounts)
- Helm chart cơ bản
- Tài liệu:
- kubernetes.io/docs (chính thức)
- eksworkshop.com (bài lab miễn phí)
- Killer Coda (lab Kubernetes miễn phí)
Ngày 5-7: MLOps Pipeline
- Đọc về MLflow hoặc SageMaker Pipeline
- Tìm hiểu GitOps (ArgoCD) – rất phổ biến trong enterprise
- CI/CD với GitHub Actions cho ML
- Tài liệu:
- ml-ops.org (concept overview)
- Made With ML (madewithml.com) – code MLOps end-to-end
- Book: Designing Machine Learning Systems – Chip Huyen (bible của MLOps)
---
Tuần 2 – Production, Security, Compliance
Ngày 8-9: Observability & FinOps
- Prometheus + Grafana cơ bản
- AWS CloudWatch metrics, dashboards
- Khái niệm FinOps cho AI: token cost, GPU cost optimization
- Tài liệu:
- prometheus.io/docs
- grafana.com/docs
- AWS Well-Architected Framework (cost optimization pillar)
Ngày 10-11: Security cho AI trong ngân hàng
- Azure AD / Microsoft Entra ID basics (SSO, conditional access)
- AWS IAM: policy, role, permission boundary
- AI guardrails: AWS Bedrock Guardrails, content filtering
- Data privacy trong ngân hàng: Luật An ninh mạng VN, Nghị định 13/2023 về bảo vệ dữ liệu cá nhân
- Tài liệu:
- aws.amazon.com/bedrock/guardrails/
- learn.microsoft.com/entra/
Ngày 12: ITSM & Process
- ITIL basics: incident, problem, change
- Jira Service Management workflow
- SLA definition, on-call rotation
- Tài liệu:
- atlassian.com/itsm
- axelos.com (ITIL)
Ngày 13-14: Mock Interview & Review
- Practice vẽ architecture diagram (Bedrock + EKS + CI/CD)
- Review 10 câu hỏi kỹ thuật hay gặp
- Mock interview với bạn bè hoặc dùng Pramp / InterviewBit
---
Tài liệu tham khảo tổng hợp
Sách nên đọc
1. Designing Machine Learning Systems – Chip Huyen ⭐⭐⭐⭐⭐
2. Kubernetes in Action – Marko Lukša ⭐⭐⭐⭐
3. AWS Certified Solutions Architect Study Guide ⭐⭐⭐⭐
4. The Site Reliability Workbook – Google ⭐⭐⭐⭐
5. Effective DevOps – Jennifer Davis, Ryn Daniels ⭐⭐⭐
Khóa học online
- AWS Skill Builder (miễn phí)
- A Cloud Guru / Pluralsight
- DeepLearning.AI – Machine Learning Engineering for Production
- Coursera – MLOps Specialization (DeepLearning.AI)
YouTube channels
- TechWorld with Nana (DevOps)
- AWS Official Channel
- Lucidchart / Excalidraw (vẽ diagram)
Hands-on platforms
- AWS Free Tier
- eksworkshop.com
- qwiklabs.com
- hackernoon.com/techcombank (case study thực tế)
---
Công thức "Practice hơn Perfect"
Mỗi ngày dành 2-3 tiếng trong 2 tuần là đủ. Quan trọng là:
- 40% đọc lý thuyết
- 40% hands-on (thật sự build một mini pipeline)
- 20% practice interview (nói to, giải thích cho người khác hiểu)
Tư vấn nghề nghiệp
Lời khuyên sự nghiệp cho vị trí AI MLOps
Đây là một trong những vị trí hot nhất trong ngành ngân hàng Việt Nam hiện tại, vì các ngân hàng đang đổ rất nhiều tiền vào AI nhưng lại thiếu người vận hành production. Cơ hội thăng tiến rất lớn nếu bạn đi đúng hướng.
---
Lộ trình thăng tiến điển hình
```
AI MLOps Engineer (Mid)
↓ 2-3 năm
Senior AI MLOps Engineer
↓ 2-3 năm
AI Platform Lead / Principal Engineer
↓
├── Head of AI Platform (quản lý)
├── Chief AI/ML Architect (chuyên gia)
└── CTO / VP of Engineering (executive)
```
Hoặc có thể rẽ hướng:
- Site Reliability Engineer (SRE) Lead
- Cloud Platform Manager
- AI Governance & Risk Lead (rất hot trong ngân hàng)
---
Mức lương kỳ vọng theo cấp bậc
> ⚠️ Mức lương dưới đây là ước lượng tham khảo, có thể thay đổi tùy ngân hàng và thời điểm tuyển dụng.
| Cấp bậc | Kinh nghiệm | Mức lương Gross (ước lượng) | Ghi chú |
|---|---|---|---|
| Junior / MLOps Engineer | 1-2 năm | 25-45 triệu | Mid của 30-35 |
| Mid-level | 3-4 năm | 45-80 triệu | Mid của 55-65 |
| Senior | 5-7 năm | 80-130 triệu | Mid của 95-110 |
| Lead / Principal | 7-10 năm | 130-200 triệu | Mid của 150-170 |
| Manager trở lên | 10+ năm | 180-300+ triệu | Bao gồm management + bonus |
Techcombank thường trả thuộc nhóm top 2-3 ngân hàng về lương IT, đặc biệt với role AI/Data. Ngoài ra còn có:
- Thưởng Tết (1-3 tháng lương)
- Thưởng KPI quý/năm
- Stock/ESOP (một số vị trí)
- Review lương 2 lần/năm
---
Kỹ năng cần phát triển thêm trong 1-2 năm tới
Kỹ năng "must-have" bổ sung
1. Agentic AI workflow: LangChain, LangGraph, AutoGen – xu hướng AI agent đang nổ
2. Vector Database: Pinecone, Weaviate, OpenSearch – cho RAG use case
3. Prompt Engineering nâng cao: Few-shot, chain-of-thought, structured output
4. Model evaluation: LM Evaluation Harness, custom eval cho business use case
Kỹ năng "nice-to-have" để tăng giá trị
5. Terraform/CDK thành thạo: IaC là standard ở enterprise
6. Python sâu hơn: Async, decorator, typing, packaging
8. Cross-cloud: Biết thêm Azure ML, GCP Vertex AI để linh hoạt
Kỹ năng mềm cho leadership path
9. Mentoring junior: Document, pair programming
10. Stakeholder management: Present cho C-level
12. Project management: Agile/Scrum cho AI project (khác với IT thường)
---
Tại sao nên chọn ngân hàng thay vì tech company?
Ưu điểm:
- Lương ngân hàng top (Techcombank, Vietcombank, MBB…) ngang hoặc hơn FAANG Việt Nam
- Bài toán thực tế thú vị: fraud detection, credit scoring, customer service AI
- Bảo mật & compliance kinh nghiệm quý giá (khó học ở startup)
- Job stability cao
Nhược điểm:
- Innovation chậm hơn startup
- Quy trình rườm rà (ITSM, change approval…)
- Đôi khi phải deploy thứ mình không tin tưởng 100% vì business pressure
---
Lời khuyên cá nhân
1. Đừng chỉ học tool, học concept: Tool thay đổi liên tục (Bedrock có thể bị thay bằng dịch vụ khác), concept thì ổn định
2. Build portfolio trên GitHub: 2-3 project end-to-end (data → model → deploy → monitor) sẽ "bán" bạn tốt hơn CV dài 3 trang
3. Viết blog kỹ thuật: Chia sẻ lên Viblo, Techtalk, Medium – recruiter ngân hàng đọc nhiều
4. Network: Tham gia cộng đồng MLOps Vietnam, AI Việt Nam, gặp gỡ offline
5. Cân nhắc timing: 6 tháng đầu năm là mùa tuyển dụng ngân hàng, cuối năm thường freeze budget
Câu hỏi thường gặp
Em mới ra trường ngành CNTT, không có kinh nghiệm MLOps thì có nên apply vị trí này không?
Vị trí AI MLOps ở Techcombank thường yêu cầu tối thiểu 2-3 năm kinh nghiệm liên quan (DevOps, Cloud, hoặc backend). Nếu em mới ra trường, em nên:
- Làm 1-2 năm DevOps/Backend trước để có nền tảng Linux, Docker, CI/CD, AWS
- Học thêm Kubernetes, Terraform, ML basics
- Làm project cá nhân về deploy model ML lên cloud (SageMaker hoặc Bedrock)
- Sau 2 năm kinh nghiệm thực tế, em sẽ có cơ hội tốt hơn nhiều
Apply sớm không sai nhưng khả năng pass vòng technical thấp. Tốt nhất em nên nhắm các vị trí Junior DevOps hoặc Cloud Engineer tại Techcombank trước để vào hệ thống, sau đó rotate sang team AI.
Mức lương cho vị trí AI MLOps tại Techcombank khoảng bao nhiêu? Em đang ở mức senior với 6 năm kinh nghiệm AWS.
Với 6 năm kinh nghiệm AWS (đặc biệt nếu có thêm K8s và MLOps thực tế), em thuộc nhóm Senior. Mức lương kỳ vọng hợp lý là 80-130 triệu gross tùy package, cộng thưởng KPI và các phúc lợi khác (lương tháng 13, thưởng Tết, bảo hiểm sức khỏe cao cấp).
Lưu ý: Techcombank thường deal linh hoạt hơn nếu em có chứng chỉ AWS Professional hoặc CKA, hoặc đã làm ở ngân hàng/tổ chức tài chính trước đó. Em nên research trên VietnamWorks, ITviec để check range thị trường, rồi đề xuất mức trên 20-30% so với hiện tại.
Em đang làm DevOps engineer ở một fintech 3 năm, muốn chuyển sang làm AI MLOps tại ngân hàng. Có nên nhảy không?
Đây là thời điểm rất tốt để chuyển hướng. Lý do:
- Fintech 3 năm cho em kinh nghiệm production thực tế (CI/CD, monitoring, incident) – đây là thứ ngân hàng đang cần
- Ngân hàng đang trả premium cho người có kinh nghiệm AI/MLOps vì khan hiếm
- Lộ trình từ DevOps → MLOps là tự nhiên, em chỉ cần học thêm:
- ML basics (không cần sâu như Data Scientist)
- AWS Bedrock, SageMaker
- Model versioning & evaluation tools
Trade-off: Fintech thường culture thoáng, ngân hàng thì process nặng hơn. Nhưng bù lại em được:
- Lương cao hơn 20-40%
- Bài toán phức tạp hơn (compliance, scale lớn)
- CV đẹp hơn cho tương lai
Cá nhân tôi nghĩ đáng để nhảy nếu em nhận được offer từ Techcombank hoặc các ngân hàng top.
Vị trí này yêu cầu cả AWS lẫn Azure AD – có phải là hybrid cloud không? Em sẽ phải học cả hai?
Đúng, JD có vẻ thiết kế cho hybrid cloud: AWS chạy AI workloads (Bedrock, SageMaker, EKS) còn Azure AD dùng cho identity/SSO toàn hệ thống. Đây là kiến trúc phổ biến ở các ngân hàng lớn vì họ đã có Microsoft stack từ trước (Office 365, Teams…).
Nếu em chưa quen Azure, đừng lo quá. Em cần hiểu:
- Azure AD (Entra ID) cơ bản: user, group, role, conditional access
- Cách integrate Azure AD với AWS (federation, SSO qua SAML/OIDC)
- AWS IAM role trust policy với external IdP
Còn lại em tập trung vào AWS là chính vì đó là nơi chạy AI workload. Có kinh nghiệm hybrid cloud là một lợi thế lớn, nhưng không bắt buộc phải master cả hai từ đầu.
Làm AI MLOps ở ngân hàng có áp lực hơn ở startup không? Em ngại phải on-call ban đêm.
Áp lực khác nhau:
Ở startup:
- Bài toán nhỏ, ít người, em "all-in" một mình
- Deadline aggressive vì đốt tiền investor
- Ít quy trình, có thể tự do chọn tech stack
- Production outage ảnh hưởng trực tiếp đến funding
Ở ngân hàng (Techcombank):
- Bài toán lớn hơn nhiều (hàng triệu user), scale quan trọng
- Quy trình ITSM nặng, change phải approve
- On-call có rotation, thường 1 tuần/tháng (không phải mỗi ngày)
- Một số model AI chạy 24/7 (chatbot, fraud detection) → có thể có P0 incident
- Nhưng team lớn hơn, support nhiều hơn
Thực tế ở Techcombank, các AI use case mới triển khai gần đây thường chạy business hours, on-call cũng có compensation (OT pay hoặc comp-off). Bạn cứ hỏi rõ về on-call policy khi interview để biết chi tiết.
Em muốn apply vị trí này nhưng JD không ghi rõ yêu cầu kinh nghiệm. Làm sao biết mình phù hợp?
Khi JD không ghi yêu cầu cụ thể, có thể là do:
1. Team đang mở rộng nhanh, muốn xem nhiều profile
2. Đây là vị trí mới tạo ra, chưa định hình rõ
3. HR muốn filter qua interview thay vì reject sớm
Cách đánh giá bản thân:
✅ Phù hợp nếu em có:
- 3+ năm DevOps/Cloud/SRE
- Hands-on với ít nhất 2/4 thứ: SageMaker, Bedrock, EKS, Lambda
- Từng build CI/CD pipeline cho ít nhất 1 service production
- Hiểu về Kubernetes, Docker, Linux networking
- Có kinh nghiệm với monitoring (Prometheus, Grafana, CloudWatch)
- Đã làm ở môi trường có quy trình (ITSM, change management)
❌ Không phù hợp nếu:
- Chỉ biết ML từ khóa học, chưa deploy production
- Không có kinh nghiệm cloud
- Chỉ quen Windows, ít Linux
Cách tốt nhất: vẫn apply, cover letter nhấn mạnh những kỹ năng trên, dù JD không yêu cầu. Để HR tự đánh giá.
Trong JD có nhắc đến FinOps. Đây là cái gì? Có khó học không?
FinOps (Financial Operations) là thực hành quản lý chi phí cloud một cách có hệ thống, đặc biệt quan trọng với AI workloads vì:
- GPU/TPU training rất đắt
- LLM API (như Claude, Titan) tính theo token, dễ vượt budget nếu không kiểm soát
- Bedrock, SageMaker endpoint chạy 24/7 tốn tiền liên tục
Công việc FinOps trong JD bao gồm:
- Monitor token consumption theo department
- Set budget, quota, cost alerts
- Recommend optimization (vd: dùng smaller model cho chatbot, cache response, batch processing)
- Report chi phí cho management
Không quá khó học nếu em đã có nền tảng cloud:
- Đọc FinOps Foundation (finops.org) – miễn phí
- AWS Cost Explorer, AWS Budgets
- Học cách đọc AWS bill, tagging chi phí
- Có chứng chỉ FinOps Certified Practitioner (khá dễ)
Đây là kỹ năng "điểm cộng" – không nhiều người MLOps biết FinOps, nên nếu em có sẽ nổi bật hơn trong phỏng vấn.
Nếu em chuyển sang làm AI MLOps, 5 năm sau sẽ ở đâu? Có bị outdated khi AI thay đổi nhanh không?
Đây là câu hỏi rất hay và thực tế. Có hai cách nhìn:
Lạc quan:
- AI thay đổi nhanh nhưng MLOps là về quy trúc vận hành, không phải về model
- CI/CD, monitoring, security, FinOps – những thứ này ổn định 10-20 năm
- Khi model mới ra (GPT-5, Claude 5, v.v.), em vẫn cần người deploy, monitor, secure nó
- Kỹ năng MLOps transfer được sang các domain khác (data platform, IoT, blockchain…)
Thách thức:
- Bedrock hôm nay có thể bị thay bằng dịch vụ khác trong 2-3 năm
- SageMaker có thể không còn nếu AWS ra dịch vụ mới
- Agentic AI có thể thay đổi cách vận hành
Lời khuyên:
- Học concept bền vững: observability, security, compliance, ITSM
- Update tool mới liên tục: đọc blog AWS, experiment với tool mới
- Đa dạng kỹ năng: biết cả MLOps, DevOps, SRE để linh hoạt
- Network rộng để nắm xu hướng
5 năm sau, em có thể ở các vị trí: AI Platform Lead, Principal Engineer, hoặc chuyển sang Governance/AI Compliance (rất hot khi EU AI Act và VN luật tương tự ra đời).