ملاحظات فرهنگی در قبال هوش مصنوعی

هوش مصنوعی مولد، یعنی هوش مصنوعی که می‌تواند داده‌های جدید ایجاد کند، در هنگام استفاده در مراقبت‌های اجتماعی بزرگسالان چالش‌های متمایزی را ایجاد می‌کند. در برخی از کشور‌ها، این فناوری در حال حاضر برای ایجاد برنامه‌های مراقبت شخصی استفاده می‌شود. چنین برنامه‌هایی نه تنها نیاز‌های فردی و ترجیحات را در نظر می‌گیرند، بلکه می‌توانند ارزیابی‌های پیش‌بینی‌کننده‌ای در مورد، به عنوان مثال، خطر سقوط یا بدتر شدن بیشتر سلامت ایجاد کنند. فناوری هوش مصنوعی برای تطبیق مراقبان فرهنگی با بزرگسالانی که به مراقبت‌های اجتماعی نیاز دارند، استفاده شده است. هوش مصنوعی مولد در حال حاضر برنامه‌ریزی و تخصیص منابع در برخی از محیط‌های مراقبت و سایر کاربرد‌های مشابه مانند ارائه پشتیبانی سلامت روان برای بیماران و مراقبان را از طریق چت بات‌ها انجام می‌دهد.

مراقبت‌های فرهنگی مناسب، به هویت فرهنگی و میراث کسانی که تحت مراقبت هستند، حساس است و با بهبود نتایج سلامتی برای بیماران مرتبط است. این شامل توجه ویژه به باور‌های مردم، از جمله درک آن‌ها از مراقبت بر اساس، به عنوان مثال، قومیت، ملیت، مذهب، جنسیت یا هویت جنسیتی است. در حالی که تعریف فرهنگ آسان نیست، می‌توان آن را به عنوان یک چارچوب مع) درک کرد که ما را قادر می‌سازد تا جهان را درک کنیم و زندگی خود را ساختار دهیم. اهمیت مراقبت‌های اجتماعی مناسب فرهنگی در طول همه‌گیری کووید-۱۹ بر همگان مشخص شد. بسیاری از افراد تحت مراقبت اجتماعیاز جوامع فرهنگی یا مذهبی خود جدا شده و تعامل با افراد و رویداد‌های مهم فرهنگی برای آن‌ها دشوارتر می‌شود.

تلاش‌های قابل توجهی برای ترکیب تکنولوژی طراحی شده برای حساسیت فرهنگی، مانند ربات‌ها، در خانه‌های مراقبت وجود دارد. این ربات‌ها برای کمک به افراد مسن به روش‌های فرهنگی مثل شروع مکالمات در مورد موضوعات مورد علاقه، پخش موسیقی یا کتاب‌های صوتی مورد علاقه و حتی کمک به دعا با یادآوری شخص از مراسم مربوطه و محل‌اشیاء دعا مورد نیاز طراحی شده‌اند.

در هسته اصلی آن، مراقبت‌های فرهنگی با کاهش تفاوت‌های بهداشتی که ریشه در تفاوت‌های نژادی، قومی، اجتماعی-اقتصادی و مذهبی دارد، هماهنگ است. با توجه به اینکه هوش مصنوعی مولد در حال حاضر در برخی از محیط‌های مراقبت اجتماعی بزرگسالان برای وظایف مانند نوشتن یادداشتهای جلسه و ایجاد برنامه‌های مراقبت استفاده می‌شود، مهم است که پیامد‌های اخلاقی و اجتماعی این رویکرد‌های جدید را در نظر بگیریم. همچنین اینکه چگونه این فن‌آوری‌های جدید می‌توانند به کاهش برخی از فشار‌ها بر مراقبت‌های اجتماعی بزرگسالان کمک کنند، نیز بر ما مهم است.

این سؤال که چگونه سیستم‌های هوش مصنوعی مولد را در مراقبت‌های اجتماعی بزرگسالان تنظیم کنیم، توجه فزاینده‌ای به خود جلب می‌کند. به عنوان مثال، فوریه ۲۰۲۴ مجموعه‌ای از میز‌های گرد در مورد هوش مصنوعی در مراقبت‌های اجتماعی بزرگسالان در دانشگاه آکسفورد را مشاهده کرد. حوزه‌های خاصی از نگرانی برای صلاحیت فرهنگی وجود دارد که یکی از آن‌ها ماهیت انعطاف‌پذیر و انعطاف‌پذیر نه تنها فناوری هوش مصنوعی مولد، بلکه خود فرهنگ را نیز در نظر می‌گیرد که پیچیده و همیشه در حال تکامل است. این می‌تواند به معنای نیاز به مشارکت کارشناسان و جوامع مربوطه در توسعه و ارزیابی مداوم ابزار‌های مناسب هوش مصنوعی برای مراقبت‌های اجتماعی مناسب بزرگسالان از نظر فرهنگی باشد.

یکی دیگر از مسائل مهم برای مراقبت‌های اجتماعی مناسب فرهنگی، کاهش اثرات تعصبات آشکار و پنهان به خوبی مستند شده در مدل‌های زبان بزرگ است که پایه هوش مصنوعی مولد است. مراقبت می‌تواند تحت تأثیر منفی تعصبات قرار گیرد. این می‌تواند زمانی مشکل ساز باشد که تعصبات بر نتایج تولید شده برای مراقبت‌های اجتماعی تأثیر بگذارد، که به طور بالقوه منجر به نیاز‌های مراقبت گروه‌های خاصی از افراد می‌شود که اخراج می‌شوند یا در معرض ارائه پیشنهادات مراقبت‌های نامناسب فرهنگی قرار می‌گیرند.

همانطور که برخی از نویسندگان استدلال کرده‌اند، این تعصب باید در تمام مراحل مفهوم‌سازی، طراحی، توسعه، اعتبارسنجی، دسترسی و نظارت بر ابزار هوش مصنوعی در نظر گرفته شود. در نظر گرفتن باید نه تنها تعصبات مربوط به طراحی الگوریتم و داده‌های تاریخی پایه آن، بلکه تنوع و شمول در مراحل توسعه و اعتبارسنجی را نیز شامل شود. در حالی که این موضوعات مدت‌ها تحت بررسی پزشکی و مراقبت‌های بهداشتی بوده‌اند. تحقیقات بیشتری در مورد این پدیده در زمینه مراقبت‌های اجتماعی بزرگسالان لازم است تا رویکرد‌های نظارتی مناسب و حساس فرهنگی را امکان‌پذیر کند.

هنگام بررسی معرفی هوش مصنوعی در محیط‌های مراقبت اجتماعی بزرگسالان، تفکر در مورد سؤالات زیر ممکن است به اطمینان از صلاحیت فرهنگی کمک کند:

چگونه هوش مصنوعی مولد برای تعیین آنچه که یک برنامه مراقبت فرهنگی برای یک فرد در مراقبت‌های اجتماعی بزرگسالان است، استفاده می‌شود؟

تعصبات موجود در مدل‌های زبان بزرگ (LLMs) که پایه ابزار‌های تولید هوش مصنوعی هستند، به چه طریقی بر برنامه‌های مراقبت که در حال توسعه هستند تأثیر می‌گذارد؟

تیم‌های مراقبت اجتماعی و مراقبان غیررسمی چگونه آماده استفاده و مدیریت این فناوری‌ها به روش‌های حساس فرهنگی هستند؟

چگونه از داده‌های شخصی برای حمایت از مراقبت‌های اجتماعی حساس فرهنگی استفاده می‌شود؟

آیا افراد تحت مراقبت اجتماعی و خانواده‌های آن‌ها از نحوه استفاده از هوش مصنوعی مولد آگاه هستند، از جمله اینکه چگونه داده‌های مربوط به هویت فرهنگی آن‌ها می‌تواند در داخل و توسط ابزار‌های هوش مصنوعی استفاده شود؟

چه تأثیری ممکن است سطوح مختلف اعتماد گروه‌های اجتماعی و فرهنگی به نوآوری تکنولوژیکی بر رویکرد‌های مردم برای ادغام هوش مصنوعی مولد در مراقبت‌های اجتماعی بزرگسالان داشته باشد؟

دستورالعمل‌های قانونی و اخلاقی روشن می‌تواند به کاهش برخی از خطرات استفاده از ابزار‌های تولید هوش مصنوعی برای ارائه مراقبت‌های اجتماعی ایمن و فرهنگی کمک کند.

یک سؤال کلیدی که باید در تنظیم برنامه‌های کاربردی هوش مصنوعی به طور کلی و از جمله در زمینه استفاده از هوش مصنوعی برای مراقبت‌های اجتماعی در نظر گرفته شود، این است که چگونه سیستم‌ها اطلاعات حساس را مدیریت، ذخیره و استفاده می‌کنند. آنچه فرهنگ‌های مختلف آن را اطلاعات حساس می‌دانند، ممکن است متفاوت باشد. هنگامی که هوش مصنوعی مولد از ایجاد برنامه‌های مراقبت پشتیبانی می‌کند، ابزار‌های هوش مصنوعی به داده‌های شخصی حساس مانند نژاد، قومیت یا ملیت دسترسی دارند. این ممکن است بعداً توسط ابزار هوش مصنوعی برای اهداف فراتر از هدف اصلی مانند یادگیری بیشتر ماشین استفاده شود. دستورالعمل‌های قانونی و اخلاقی روشن می‌تواند به کاهش برخی از خطرات استفاده از ابزار‌های تولید هوش مصنوعی برای ارائه مراقبت‌های اجتماعی ایمن و فرهنگی کمک کند. همزمان، آن‌ها می‌توانند با اطمینان بخشیدن به اعضای تمام جوامع فرهنگی، اقلیت‌های قومی و گروه‌های مذهبی که منافع آن‌ها محافظت می‌شود، به افزایش اعتماد به چنین فناوری‌هایی کمک کنند.

در حالی که هوش مصنوعی مولد برای حمایت از مراقبت‌های اجتماعی بزرگسالان، از جمله کمک به فرآیند‌های اداری و تصمیم‌گیری، سؤالات در مورد تعصبات هوش مصنوعی، حاکمیت و نظارت، و ماهیت در حال تغییر فرهنگ و فناوری، باید مورد توجه قرار گیرد تا اطمینان حاصل شود که مراقبت‌های اجتماعی فرهنگی مناسب ارائه می‌شود. توجه به چنین نگرانی‌هایی برای استفاده ایمن از هوش مصنوعی مولد در مراقبت‌های اجتماعی بزرگسالان ضروری خواهد بود.