ماشینی که قهرمانان انسانی مسابقات اطلاعاتی را شکست داد، با وعده تسخیر دنیای پزشکی وارد شد، اما نتوانست در برابر پیچیدگیهای اتاق درمان دوام بیاورد و با شکست بزرگی روبهرو شد.
به گزارش الفباخبر، در فوریه سال ۲۰۱۱، وقتی سامانهای به نام «واتسون» در مقابل دیدگان میلیونها بیننده تلویزیونی، قهرمانان انسانی مسابقه تلویزیونی «جئوپاردی!» را شکست داد، آنچه در آن شب دیده شد، صرفاً یک برد سرگرمکننده نبود. برای مدیران شرکت «آیبیام»، آن شب حکم اعلام عمومی آغاز یک دوران تازه را داشت.دورانی که در آن، ماشین نهفقط سریعتر از انسان فکر میکند، بلکه میتواند تصمیمهای بهتری بگیرد. چند سال بعد از این موفقیت بزرگ، همین منطق به حوزهای حساس منتقل شد که خطا در آن، نه به باخت یک بازی، بلکه به جان انسانها گره خورده بود: حوزه پزشکی.شرکت «آیبیام» از همان ابتدا تأکید میکرد که «واتسون» قرار نیست جای یک پزشک متخصص را بگیرد، بلکه تنها «دستیار شناختی» او خواهد بود. اما در سخنرانیهای پرشور، بروشورهای تبلیغاتی و قراردادهای بینالمللی، ادبیات مورد استفاده بهتدریج تغییر کرد.«واتسون» قرار بود آنقدر داده بخواند، آنقدر مقاله علمی را تحلیل کند و آنقدر پرونده بیمار را ببیند که تصمیمش از هر پزشک منفردی دقیقتر باشد. این جمله که «هیچ انسانی نمیتواند با حجم دانش پزشکی روز رقابت کند»، بارها در معرفی سامانه «واتسون برای سرطانشناسی» تکرار شد.
آموزش سامانه با دادههای محدود و سناریوهای فرضی انجام شد
سامانه «واتسون برای سرطانشناسی» از دل یک همکاری بزرگ و پرسروصدا با «مرکز سرطان مموریال اسلون کترینگ» متولد شد؛ یکی از معتبرترین و مهمترین مراکز سرطان در جهان. «آیبیام» این همکاری را بهعنوان ستون اعتبار علمی پروژه قرار داد.این شرکت بارها اعلام کرد که سامانه هوش مصنوعی بر اساس راهنماهای درمانی و تجربه بهترین متخصصان دنیا آموزش دیده است. اما اسناد داخلی که بعدها توسط خبرنگاران منتشر شد، تصویر دقیقتری از این فرآیند آموزش ارائه میداد.بر اساس این اسناد، بخش عمدهای از آموزش «واتسون» نه بر اساس دادههای واقعی بیماران، بلکه بر اساس سناریوهای فرضی و تجربه یک گروه بسیار محدود از پزشکان انجام شده بود و این یک نقطه ضعف بزرگ محسوب میشد.در یکی از ارائههای داخلی «آیبیام» که توسط خبرنگاران «استت نیوز» بررسی شد، بهصراحت آمده بود که «واتسون» برای برخی سرطانها تنها با چند ده پرونده آموزشی تمرین کرده است. یکی از مدیران پروژه هشدار داده بود که «سیستم هنوز برای مواجهه با پیچیدگیهای دنیای واقعی آماده نیست».
توصیههای نادرست، شکاف میان واقعیت و تبلیغ را برملا کرد
سالهای ۲۰۱۶ و ۲۰۱۷، سالهای آرام و بیسروصدایی نبودند، اما صداهای انتقادی هنوز پراکنده بودند. برخی پزشکان گزارش میدادند که توصیههای «واتسون» اغلب بسیار بدیهی یا غیرقابل استفاده عملی است. برخی دیگر میگفتند سیستم برای شرایط پیچیده، بیش از حد سادهسازی میکند.در جلسات داخلی بیمارستانها، «واتسون» بیشتر بهعنوان یک ابزار آموزشی مقدماتی دیده میشد تا یک تصمیمیار بالینی قابل اعتماد. اما این نقدهای اولیه، هنوز به یک بحران علنی تبدیل نشده بودند و در سطح تخصصی باقی مانده بودند.نقطه عطف اصلی، نه در یک کنفرانس علمی، بلکه در یک گزارش تحقیقی و جنجالی رقم خورد. ژوئیه ۲۰۱۸، رسانه «استت نیوز» مجموعهای از اسناد داخلی «آیبیام» را منتشر کرد.این اسناد نشان میداد که «واتسون برای سرطانشناسی» در مواردی، درمانهایی را پیشنهاد داده که خود متخصصان «آیبیام» آنها را «ناایمن» یا «نادرست» ارزیابی کرده بودند. در یکی از نمونهها، «واتسون» برای بیماری با خونریزی فعال، دارویی پیشنهاد داده بود که میتوانست وضعیت بیمار را به شدت وخیمتر کند.
اسناد محرمانه، اعتبار پروژه را بهطور جدی زیر سؤال برد
در اسلاید دیگری که منتشر شد، صراحتاً ذکر شده بود که «این توصیه نباید به پزشکان ارائه شود». این اسناد نه از بیرون، بلکه از درون خود پروژه آمده بودند؛ از جلسات داخلی، ایمیلها و ارائههایی که نشان میداد تیم توسعه، بهخوبی از محدودیتهای فنی و عملیاتی سامانه آگاه بوده است.یکی از پزشکان در همان اسناد هشدار داده بود که «اگر این سیستم بدون نظارت دقیق استفاده شود، میتواند به بیمار آسیب جدی بزند». انتشار این گزارش تکاندهنده، روایت رسمی و تبلیغاتی شرکت «آیبیام» را بهطور جدی زیر سؤال برد و اعتبار آن را خدشهدار کرد.شرکت «آیبیام» در واکنش به گزارش «استت نیوز»، تأکید کرد که «واتسون برای سرطانشناسی» «هرگز بهطور خودکار درمان تجویز نمیکند» و تصمیم نهایی همواره بر عهده پزشک است. این جمله درست بود، اما تمام حقیقت ماجرا را بازگو نمیکرد.مسئله این نبود که «واتسون» نسخه مینویسد؛ مسئله این بود که اعتبار توصیههای ناایمن آن چگونه ساخته شده و چگونه با تبلیغات گسترده به فروش رسیده است. توصیههای سامانهای با برند «آیبیام» و پشتوانه «اسلون کترینگ»، صرفاً یک نظر جانبی تلقی نمیشود.
فشار مدیریتی و توقف بیسروصدای پروژههای بزرگ
در همان دوره زمانی، برخی پزشکان که پیشتر با «واتسون» کار کرده بودند، در گفتوگوهای غیررسمی و سپس رسانهای، به این نکته اشاره کردند که فشار مدیریتی برای استفاده اجباری از سامانه وجود داشته است. یکی از آنها به «استت نیوز» گفت که «واتسون بیشتر شبیه یک محصول نمایشی بود تا یک ابزار بالینی بالغ و قابل اعتماد».این جمله، خلاصهای از تجربه بسیاری از کاربران بود: فناوریای که در ارائههای تبلیغاتی میدرخشید، اما در اتاق درمان، فاقد کارایی لازم بود. یکی از پرهزینهترین تلاشهای «آیبیام» در این حوزه، همکاری با «مرکز سرطان ام دی اندرسون» در تگزاس بود.پروژهای که هدف آن ساخت یک سیستم پشتیبان تصمیمگیری بالینی پیشرفته بود و دهها میلیون دلار هزینه در برداشت. اما این پروژه بزرگ، بیآنکه دستاورد بالینی مشخصی داشته باشد، بهطور بیسروصدا متوقف شد.دلیل رسمی، «پیچیدگیهای فنی و تغییر اولویتها» اعلام شد، اما گزارشهای بعدی نشان دادند که «واتسون» نتوانسته با دادههای واقعی و سیستمهای پرونده الکترونیک بیمار هماهنگ شود.
ناکارآمدی در یکپارچهسازی دادهها، واحد سلامت را به شکست کشاند
در همین سالها، «آیبیام» دهها شرکت دادهمحور حوزه سلامت را خریداری کرده بود تا «واتسون سلامت» را به یک غول تحلیلی تبدیل کند. اما این خریدهای شتابزده، بیش از آنکه به همافزایی و ارتقای پروژه منجر شوند، ساختاری پیچیده و پراکنده ایجاد کردند.هر پلتفرم خریداریشده، زبان داده خاص خود را داشت و یکپارچهسازی آنها، فرآیندی بسیار زمانبر و پرهزینه شد. درآمد واحد «واتسون سلامت»، هرگز به سطحی نرسید که بتواند این سرمایهگذاریهای عظیم را در طولانی مدت توجیه کند.در بیمارستانهایی که «واتسون» در آنها استفاده میشد، واکنشها یکدست نبود. برخی پزشکان از آن بهعنوان ابزاری برای مرور سریع راهنماها استفاده میکردند. برخی دیگر، آن را کاملاً زائد و بیفایده میدانستند.وجه مشترک اغلب روایتها این بود که «واتسون» نتوانست به جایگاه وعدهدادهشده خود برسد. نه انقلابی در درمان سرطان ایجاد شد، نه تصمیمگیری بالینی را بهطور کامل متحول کرد.
فروش واحد سلامت «آیبیام»، پایان رسمی یک رؤیا بود
در هند، جایی که «واتسون برای سرطانشناسی» با استقبال اولیه روبهرو شده بود، گزارشهایی منتشر شد که نشان میداد توصیههای «واتسون» اغلب با نظر پزشکان محلی تفاوت قابل توجهی ندارد یا بهدلیل تفاوتهای ژنتیکی و دارویی در جمعیت، قابل اتکا نیست.این مسئله، یکی از چالشهای بنیادی پروژه را عیان کرد: پزشکی، برخلاف بازیهای اطلاعاتی، بهشدت وابسته به زمینه، جمعیت و جزئیات بومی است و نمیتواند یک نسخه واحد برای همه داشته باشد.از سال ۲۰۱۹ به بعد، نام «واتسون برای سرطانشناسی» کمتر در بیانیههای «آیبیام» دیده شد. تمرکز شرکت به سمت خدمات ابری و هوش مصنوعی عمومی تغییر مسیر داد. واحد «واتسون سلامت» همچنان وجود داشت، اما دیگر پرچمدار آینده «آیبیام» نبود.در ژانویه ۲۰۲۲، خبر فروش بخش عمده داراییهای «واتسون سلامت» به شرکت سرمایهگذاری «فرانسیسکو پارتنرز» منتشر شد. «آیبیام» بدون هیاهوی زیاد، از میدانی خارج شد که روزی قرار بود آینده خود را با آن بسازد. این فروش، پایان یک روایت بزرگ و پرادعا بود.
تجربه واتسون، درسی بزرگ برای آینده هوش مصنوعی در پزشکی شد
سقوط پروژه «واتسون برای سرطانشناسی»، بیش از آنکه داستان ناکارآمدی صرف یک الگوریتم باشد، روایت برخورد شتابزده فناوری با یک واقعیت بسیار پیچیده است. پزشکی، برخلاف بسیاری از حوزههای دیگر، تحمل خطای نمایشی را ندارد.هر توصیه ماشینی، بالقوه به یک تصمیم حیاتی برای بیمار تبدیل میشود. شرکت «آیبیام» این واقعیت را میدانست، اما فاصله میان دانستن و عملکردن با احتیاط لازم، همان جایی بود که شکاف بزرگ ایجاد شد و پروژه را به سمت شکست برد.امروز، وقتی از «واتسون» سخن گفته میشود، کمتر کسی آن را بهعنوان پزشک دیجیتال آینده میداند. اما تجربه آن، بهعنوان یکی از پرهزینهترین و پرتبلیغترین تلاشها برای ورود هوش مصنوعی به پزشکی، همچنان باقی مانده است.این تجربه به جامعه پزشکی نشان داد که حتی قدرتمندترین ماشینها، بدون فروتنی و درک پیچیدگی انسان و زمینه درمانی، راه به جایی نمیبرند و نمیتوانند موفقیت کسب کنند.
منبع؛ فارس
