Across many operational workflows, users often lose confidence in a model after witnessing a visible error, even when the model is generally more accurate than humans. A 2018 study in Management Science surfaces a simple, effective intervention: allow small, bounded edits to the model’s output. When people can adjust results within modest limits, they select the model more often, feel more satisfied with the process, and the aggregate outcomes hew closer to the model’s baseline accuracy. This article distills those findings, explains why “some control” matters more than “more control,” and turns them into practical human-in-the-loop design principles that increase adoption without sacrificing accuracy in real operations.

1) “Some control” is enough to reverse aversion

In incentivized forecasting experiments, merely permitting very small edits significantly increased the probability that participants chose the model. Because payoffs were linked to performance, this shift reflected genuine preference under pressure, not casual liking. The key driver was the feeling of holding the wheel, however lightly: once individuals knew they could nudge results when needed, they were far less reactive to visible mistakes and more willing to rely on algorithmic predictions.

A second, counterintuitive pattern is that preference for editable models is fairly insensitive to the size of the edit band. Users did not require a wide corridor to feel empowered; a reasonable threshold already produced the acceptance lift. For designers, this finding discourages the “grant full control” extreme, which can invite excessive overrides. Instead, a narrow but transparent band creates ownership while keeping outcomes anchored to the model’s strengths.

The study also shows that the existence of control outweighs the amount of control. When participants compared “bounded edits” with “free edits,” acceptance did not automatically tilt toward the more powerful option. Knowing that intervention is available, however modest, reduces anxiety about localized mismatches. The design goal, therefore, is to ensure control is present and intelligible, not maximized, because larger ceilings do not systematically translate into greater trust or better decisions.

2) Experience builds trust and carries into later rounds

Light editing changes more than the initial choice; it lifts process satisfaction and confidence in the model’s comparative advantage. People feel the workflow is procedurally fair when their contextual knowledge has a sanctioned place. With that outlet available, small errors stop triggering outsized negative reactions, because users can correct what bothers them within the agreed limits. Trust in the model is preserved by design rather than negotiated case by case.

This positive experience spills over into subsequent rounds. Participants who once used an editable mode were more likely to choose model-only later, even when editing privileges disappeared. In effect, the initial ability to tweak acts as a trust bridge: after discovering that the model is helpful and not domineering, users become comfortable handing it more authority. Over time, the system earns discretion instead of demanding it, and reliance on model-only forecasts rises without costly persuasion campaigns.

3) Bound the edits to protect performance and accuracy

From a performance standpoint, bounded editing keeps results close to the model compared with freeform intervention, because it limits drift caused by human overcorrection. Since the model enjoys a statistical advantage, anchoring decisions near its outputs tends to raise overall accuracy. Small edit bands make human input a rim-level refinement rather than a wholesale rewrite, preserving the model’s predictive structure while still honoring practitioner insight at the margins.

A second mechanism compounds the benefit: higher uptake. When more users select the model thanks to light-touch control, a larger share of the organization’s forecasts are model-based. Because those forecasts are, on average, more accurate than ad-hoc human estimates, the system-level error declines even if individual edits are minor. In other words, edit lightly so the model is used widely, turning a psychological nudge into measurable operational gains.

In deployment, the implications are consistent and actionable: start with a model-first default, expose a clearly bounded adjustment window, and explain the rules of engagement in plain language. When people understand the rails, they intervene sparingly and confidently, keeping predictions aligned with the model while satisfying the human need for agency. That balance sustains both adoption and accuracy in day-to-day decision making.

The experimental evidence suggests that overcoming “algorithm aversion” does not necessitate broad, unconstrained intervention; rather, it requires the presence of just-enough control. A modest adjustment band makes users feel in charge, raises adoption, increases satisfaction, and—over time—encourages them to return to model-only mode even without editing rights. At the system level, a bounded-edit configuration enhances uptake while maintaining outcomes close to the model’s strong baseline, thereby improving overall accuracy in real-world operations. Organizations can scale AI with low friction by defaulting to model-first, granting small, intelligible adjustments to build trust, and codifying disciplined use of the model. That is a practical, low-risk path to wider usage, clearer accountability, and more consistent value from predictive systems.

Chỉnh nhẹ, chấp nhận cao thiết kế HITL dựa trên bằng chứng

Trong nhiều quy trình nghiệp vụ, người dùng thường nghi ngại mô hình sau khi thấy nó mắc lỗi, dù mô hình thường chính xác hơn con người trong tổng thể. Nghiên cứu đăng trên Management Science năm 2018 cho thấy một can thiệp đơn giản mà hiệu quả: cho phép người dùng chỉnh sửa nhỏ đầu ra. Khi có quyền điều chỉnh trong biên độ giới hạn, họ chọn dùng mô hình nhiều hơn, hài lòng hơn, và kết quả thực tế bám sát mô hình gốc hơn. Bài viết này tổng hợp các phát hiện, giải thích vì sao “some control” quan trọng hơn “more control”, và rút ra hàm ý thiết kế human-in-the-loop giúp vừa tăng chấp nhận, vừa duy trì độ chính xác trong vận hành.

1) “Some control” đủ mạnh

Các thí nghiệm trong nghiên cứu cho thấy chỉ cần cho phép chỉnh sửa rất nhỏ đã khiến xác suất người dùng chọn mô hình tăng lên đáng kể. Hiệu ứng này xuất hiện trong bối cảnh dự báo có thưởng, nơi người tham gia chịu trách nhiệm kết quả và có động lực tối ưu hóa điểm số. Điều quan trọng là cảm giác được nắm tay lái, dù chỉ một chút, đã thay đổi đáng kể thái độ đối với thuật toán. Tâm lý “ghét sai số nhìn thấy” giảm đi khi người dùng có thể can thiệp để sửa những chi tiết họ chưa yên tâm.

Điểm đáng chú ý khác là mức ưa thích với mô hình có thể chỉnh khá không nhạy với biên độ chỉnh cho phép. Người dùng không nhất thiết cần dải điều chỉnh rộng mới cảm thấy được trao quyền, mà chỉ cần một ngưỡng hợp lý để thể hiện chủ ý. Điều này giúp nhà thiết kế tránh cực đoan “trao quyền toàn phần”, vốn dễ kéo theo thay đổi quá tay. Thay vào đó, biên độ hẹp nhưng minh bạch lại đủ tạo cảm giác làm chủ, đồng thời duy trì quỹ đạo bám sát mô hình gốc.

Nghiên cứu còn cho thấy nhu cầu “some control” quan trọng hơn chính lượng quyền được trao. Khi có lựa chọn giữa “chỉnh có giới hạn” và “chỉnh tự do”, người dùng không nhất thiết đánh giá cao phương án quyền lực hơn. Họ chỉ cần biết mình có thể can thiệp khi cần, để giải tỏa lo ngại về những sai khác cục bộ. Trọng tâm vì vậy nằm ở sự hiện diện của quyền, không phải mức trần điều chỉnh càng lớn càng tốt.

2) Trải nghiệm và niềm tin

Quyền chỉnh nhẹ không chỉ tác động tại thời điểm lựa chọn, mà còn nâng sự hài lòng với quy trình và niềm tin vào ưu thế của mô hình. Khi được phép chạm tay vào kết quả, người dùng cảm thấy quy trình công bằng hơn và phản ánh hiểu biết ngữ cảnh của họ. Cảm giác “được lắng nghe” khiến họ dễ dung nạp sai số nhỏ, vì biết mình có cơ hội hiệu chỉnh trong giới hạn cho phép. Niềm tin vào mô hình vì thế không bị tổn hại chỉ vì một lỗi hiển hiện. 

Hiệu ứng này còn lan tỏa sang vòng tiếp theo của nhiệm vụ dự báo. Nhóm đã trải nghiệm chế độ “được chỉnh” có xu hướng chọn “model-only” ở các lượt sau, ngay cả khi quyền chỉnh không còn hiện diện. Nói cách khác, quyền chỉnh nhẹ ban đầu đóng vai trò như một “cầu nối niềm tin”, giúp người dùng vượt qua ngưỡng kháng cự ban đầu để nhận ra giá trị thực tế của mô hình. Khi niềm tin được thiết lập, họ sẵn lòng trao nhiều quyết định hơn cho thuật toán.

3) Hiệu năng hệ thống

Từ góc độ hiệu năng, “chỉnh có giới hạn” giúp kết quả bám sát mô hình hơn so với “chỉnh tự do”, nhờ giảm đà lệch do can thiệp chủ quan. Bởi mô hình vốn mang lợi thế thống kê, việc người dùng dựa nhiều hơn vào mô hình thường dẫn đến độ chính xác tổng thể cao hơn. Khi biên độ chỉnh được thiết kế nhỏ, can thiệp của con người chủ yếu đóng vai trò tinh chỉnh ở rìa, thay vì thay đổi cấu trúc dự báo. Điều này dung hòa tốt giữa tính chấp nhận và tính chuẩn xác.

Một hàm ý quan trọng là chỉ cần trao quyền vừa đủ để kích hoạt tâm lý hợp tác, thay vì mở toàn quyền làm giảm vai trò của mô hình. Ở cấp chính sách, điều này có thể hiện thực hóa qua các cơ chế như “banded control”, đặt biên độ ±x% hoặc giới hạn số lần chỉnh trong một phiên. Song song, cần thiết lập quy tắc ghi log can thiệp và đánh giá hậu kiểm, nhằm đảm bảo những chỉnh sửa thực sự tạo giá trị, không bị lạm dụng hay trở thành nguồn thiên lệch mới.

Cuối cùng, chính việc tăng uptake nhờ quyền chỉnh nhỏ là đòn bẩy cải thiện hiệu quả thực tế của hệ thống. Trong các môi trường nơi người dùng có quyền chọn giữa tự làm và dùng mô hình, việc họ chuyển sang tín nhiệm mô hình nhiều hơn sẽ tăng tỉ trọng dự báo dựa trên thuật toán. Khi đa số dự báo bám theo mô hình, sai số tổng hợp giảm xuống, tạo ra lợi ích có thể đo lường. “Chỉnh nhẹ để dùng nhiều hơn” vì vậy là chiến lược mang lại hiệu quả vận hành, không chỉ là biện pháp an ủi cảm xúc.

Bằng chứng từ Management Science năm 2018 chỉ ra chìa khóa để vượt qua “algorithm aversion” không nằm ở việc trao thật nhiều quyền, mà ở sự hiện diện của quyền chỉnh vừa đủ. Cho phép can thiệp trong biên độ nhỏ giúp người dùng cảm thấy làm chủ, tăng chấp nhận, nâng sự hài lòng, và theo thời gian, dẫn họ quay lại tin tưởng mô hình ngay cả khi không còn quyền chỉnh. Ở cấp thiết kế, điều đó chuyển hóa thành nguyên tắc đơn giản: model-first, chỉnh có giới hạn, log đầy đủ. Tổ chức vì thế có thể mở rộng ứng dụng mô hình mà không phải đánh đổi độ chính xác. Khi triển khai, hãy xác định biên độ hợp lý cho từng tác vụ, truyền thông rõ ràng cơ chế kiểm soát, và đo lường tác động tới uptake lẫn sai số để tinh chỉnh liên tục.

Nguồn tham khảo:

Dietvorst, Simmons, Massey (2018), Management Science - https://pubsonline.informs.org/doi/10.1287/mnsc.2016.2643

Dietvorst, Simmons, Massey (2018), PDF toàn văn - https://faculty.wharton.upenn.edu/wp-content/uploads/2016/08/Dietvorst-Simmons-Massey-2018.pdf