AI đồng hành: hữu ích, riêng tư và có kiểm soát.

Con người muốn một trợ giúp luôn hiện diện, hiểu ngữ cảnh và đáng tin: nhắc việc đúng lúc, trả lời đúng điều cần, hỗ trợ đúng việc đang làm. Nhưng một AI luôn bên cạnh đặt ra những câu hỏi khó: riêng tư — nó có luôn lắng nghe không? Phụ thuộc — con người có ngừng tự suy nghĩ không? Thao túng — ai định hình những gì nó nói? Kiểm soát dữ liệu — ai sở hữu bản ghi về cuộc sống của người dùng?

Những câu hỏi này phải được trả lời TRƯỚC khi có sản phẩm, không phải sau. Vì vậy SITECH tiếp cận AI đồng hành như một hướng nghiên cứu — thử nghiệm nhỏ, có kiểm soát, với tiêu chí rõ ràng — chứ không phải một sản phẩm ra mắt vội.

• Hữu ích với mục đích rõ ràng: trợ giúp phục vụ một mục đích cụ thể mà người dùng chủ động chọn — không gợi ý lan man, không giữ chân bằng mọi giá.
• Riêng tư từ thiết kế: xử lý cục bộ (Local) khi có thể; thu thập tối thiểu; người dùng kiểm soát dữ liệu của mình — tạm dừng, xóa, xuất dữ liệu.
• Minh bạch luôn luôn: người dùng luôn biết khi nào AI đang hoạt động, nó ghi nhận gì, và nó là AI — không giả vờ là con người.
• Con người giữ quyền quyết định: người dùng có thể tạm dừng, dừng hẳn và xóa dữ liệu bất cứ lúc nào; AI không tự ý hành động vượt khuôn khổ đã thống nhất (Guardrails).
• Không thương mại hóa vội: không tuyên bố sản phẩm, không công bố thông số, không nhận đặt hàng cho thứ chưa được kiểm chứng.

IEEE 7001-2021 — Minh bạch của hệ thống tự hành. Tiêu chuẩn mô tả các mức độ minh bạch có thể đo lường, cho từng nhóm đối tượng — người dùng, đơn vị kiểm chứng, điều tra viên, công chúng. AI đồng hành phải giải thích được hành vi của nó ở mức người dùng hiểu được — không hộp đen.

IEEE Std 7003-2024 — Cân nhắc thiên vị thuật toán. Khung có cấu trúc: hồ sơ thiên vị, xác định đối tượng liên quan, tính đại diện của dữ liệu, giám sát trôi lệch, ghi chép quyết định liên quan đến thiên vị xuyên suốt vòng đời. AI đồng hành phục vụ con người thật — thiên vị không phải lỗi nhỏ.

UNESCO — Khuyến nghị về Đạo đức của Trí tuệ nhân tạo (2021). Giám sát và quyền quyết định của con người, riêng tư và bảo vệ dữ liệu, nguyên tắc “không gây hại” và tương xứng. Đây là nền tảng giá trị cho mọi quyết định thiết kế AI đồng hành.

OECD — Nguyên tắc về AI (2019, cập nhật 2024). Minh bạch và khả năng giải thích, trách nhiệm giải trình, độ tin cậy và an toàn — ba nguyên tắc mà bất kỳ AI đồng hành nào cũng phải đáp ứng trước khi nói đến tính năng.

EU AI Act — Quy định (EU) 2024/1689, Điều 50. Nghĩa vụ minh bạch: con người phải được biết khi đang tương tác với AI; nội dung tổng hợp phải được đánh dấu. Với AI đồng hành, đây là yêu cầu tối thiểu — không phải tính năng thêm.

ISO/IEC 23894:2023 — Hướng dẫn quản trị rủi ro AI. Nhận diện, đánh giá và xử lý rủi ro cho các rủi ro đặc thù của AI đồng hành — riêng tư, phụ thuộc, thao túng — xuyên suốt vòng đời.

Riêng tư từ thiết kế: thu thập tối thiểu, minh bạch về lưu trữ và truy cập, người dùng tạm dừng, dừng hẳn và xóa dữ liệu bất cứ lúc nào. Hướng nghiên cứu ưu tiên xử lý cục bộ (Local) khi có thể, để dữ liệu không phải rời khỏi hạ tầng của tổ chức. Lớp kiểm soát AI (Guardrails) giữ AI trong khuôn khổ đã thống nhất; cổng AI (Gateway) kiểm soát ai được dùng AI nào. Xem cách SITECH kiểm soát AI →

• Bước 1 — Chia sẻ nhu cầu: tổ chức cần trợ giúp dạng nào, cho ai, trong bối cảnh nào.
• Bước 2 — Xác định bài toán và ràng buộc: mục đích, giới hạn, yêu cầu riêng tư và kiểm soát.
• Bước 3 — Nghiên cứu/bản mẫu trong phạm vi kiểm soát: thử nghiệm nhỏ, có giám sát, theo tiêu chí đã thống nhất.
• Bước 4 — Đánh giá theo tiêu chí minh bạch và riêng tư: kết quả được đo bằng tiêu chí đã thống nhất, không bằng cảm nhận.
• Bước 5 — Quyết định bước tiếp theo cùng nhau: tiếp tục, điều chỉnh, hoặc dừng. Không cam kết sản phẩm.