در سلامت، گفتنِ «مدل دقیق است» برای تصمیم‌گیری کافی نیست. باید معلوم باشد سامانه برای کدام کار ارزیابی شده، داده‌ها از کجا آمده‌اند، خطا چه پیامدی دارد و عملکرد در محیط واقعی چطور سنجیده می‌شود.
یک چارچوب پژوهشی برای کاربرد هوش مصنوعی در فرایند مصرف دارو، ارزیابی، نظارت انسانی، توضیح‌پذیری و حاکمیت را کنار هم می‌گذارد. ارزش این نگاه در آن است که ایمنی را به یک عدد یا نمودار دقت محدود نمی‌کند.
پیش از اضافه‌کردن قابلیت تازه، می‌توان یک برگهٔ ساده نوشت: کاربرد مجاز و غیرمجاز، ورودی‌های قابل‌اعتماد، خطاهای مهم، نقطهٔ ارجاع به انسان و راه توقف. این برگه تضمین ایمنی نیست؛ اما ابهام را کمتر می‌کند و بازبینی را ممکن‌تر.