آموزشعلوم کامپیوتر

درس ۱۸ از ۱۹، برنامه‌نویسی و علوم کامپیوتر، حدود ۲۵ دقیقه خواندن

اخلاق در علوم کامپیوتر

جواب کوتاه

اخلاق در علوم کامپیوتر، به انگلیسی Computing Ethics، یعنی فکر کردن به اثر نرم‌افزار و داده روی آدم‌ها و جامعه، و تصمیم گرفتن درباره‌ی اینکه چی رو بسازیم و چطوری. سرفصل جهانی این رشته، می‌گه کارهای متخصص‌های کامپیوتر، دنیا رو عوض می‌کنه، و برای مسئولانه رفتار کردن، باید به اثرهای گسترده‌تر کارشون فکر کنن و از خیر عمومی حمایت کنن؛ و توی آخرین نسخه‌ش، ساعت این حوزه رو دو برابر کرده، و اون رو توی تقریبا همه‌ی حوزه‌های دیگه گذاشته. مثل مهندس یه پل: بیشتر کسایی که از پل رد می‌شن رو، هیچ‌وقت نمی‌بینه؛ ولی همه‌شون، بهش اعتماد کردن. موضوع‌های اصلی: اثر اجتماعی، از جمله تصمیم‌هایی که الگوریتم‌ها درباره‌ی آدم‌ها می‌گیرن و نیاز به نظارت آدم؛ حریم خصوصی؛ مالکیت فکری و مجوزهای نرم‌افزار؛ امنیت و جرم‌های رایانه‌ای؛ دسترس‌پذیری، یعنی همه بتونن استفاده کنن؛ پایداری، یعنی برق و زباله‌ی الکترونیکی؛ و مسئولیت حرفه‌ای. هیچ نظریه‌ی اخلاقی‌ای، برای همه‌ی موقعیت‌ها کافی نیست؛ پس باید یاد گرفت چطوری، از چند زاویه، فکر کرد.

مهندس یه پل

درس قبل گفت امنیت و اخلاق، پله‌ی آخر نیستن؛ کنار همه‌ی پله‌هان. این درس، درباره‌ی همینه. یه مهندس رو تصور کنید که یه پل طراحی می‌کنه. سال‌ها بعد، هر روز، هزاران نفر از روی اون پل رد می‌شن: بچه‌ها، پیرها، کامیون‌ها، و آدم‌هایی که مهندس، هیچ‌وقت، نمی‌بینه.

هیچ‌کدوم از این آدم‌ها، از مهندس نپرسیدن که پل، چقدر محکمه؛ فقط بهش اعتماد کردن. نرم‌افزار هم، یه پله، که هر روز، میلیون‌ها نفر ازش رد می‌شن. اخلاق در علوم کامپیوتر، یعنی یادتون باشه این آدم‌ها، وجود دارن.

اخلاق در علوم کامپیوتر، یعنی چی

اخلاق در علوم کامپیوتر، به انگلیسی Computing Ethics، یعنی فکر کردن به اثر نرم‌افزار و داده روی آدم‌ها و جامعه، و تصمیم گرفتن درباره‌ی اینکه چی رو بسازیم، و چطوری. سرفصل جهانی، اخلاق کامپیوتر رو شاخه‌ای از فلسفه‌ی عملی می‌دونه، درباره‌ی اینکه متخصص‌های کامپیوتر، چطوری درباره‌ی رفتار حرفه‌ای و اجتماعیشون تصمیم بگیرن.

این، یه موضوع دور از کار روزانه نیست. هر بار که تصمیم می‌گیرید چه داده‌ای از کاربر جمع بشه، یه فرم چطوری طراحی بشه، یا یه الگوریتم، کی رو اول نشون بده، دارید یه تصمیم اخلاقی می‌گیرید؛ چه بدونید، چه ندونید.

یه جمله‌ی پایه

سرفصل جهانی، این حوزه رو، با جمله‌ای از یه آیین‌نامه‌ی شناخته‌شده‌ی اخلاق حرفه‌ای، شروع می‌کنه: کارهای متخصص‌های کامپیوتر، دنیا رو عوض می‌کنه؛ برای مسئولانه رفتار کردن، باید به اثرهای گسترده‌تر کارشون فکر کنن، و همیشه، از خیر عمومی حمایت کنن.

و توی بخش ویژگی‌های فارغ‌التحصیل، می‌گه یه فارغ‌التحصیل، باید برای بیشترین سود محاسبه برای کل جامعه کار کنه، و همزمان، جلوی آسیب به آدم‌ها رو بگیره. این دو جمله، تقریبا، همه‌ی این درس رو خلاصه می‌کنن.

چرا الان، مهم‌تر از همیشه

سرفصل جهانی، صادقانه می‌گه توی سال‌های اخیر، مسئله‌های پرسروصدای زیادی پیش اومده که نشون داده متخصص‌های این رشته، اونقدر که باید، آماده نیستن. و می‌گه هر چی فناوری، بیشتر روی زندگی و کار ما اثر بذاره، اهمیت مسئله‌های اجتماعی و اخلاقی هم، بیشتر می‌شه.

یه مثال تازه هم می‌زنه: ظهور هوش مصنوعی مولد، از جمله مدل‌های زبانی بزرگی که کد می‌نویسن. ابزاری که اینقدر قدرتمنده، سوال‌های تازه‌ای می‌سازه: کد ساخته‌شده، مال کیه؟ اگه اشتباه کرد، مسئولش کیه؟

ساعتش، دو برابر شد

یه عدد، اهمیت این حوزه رو نشون می‌ده: توی آخرین نسخه‌ی سرفصل جهانی، کل ساعت‌هایی که به این حوزه داده شده، نسبت به نسخه‌ی قبلی، دو برابر شده؛ از شونزده به سی و دو ساعت. و چند موضوع که قبلا انتخابی بودن، حالا، جزو هسته‌ان.

اسم این حوزه هم، عوض شده: از «مسائل اجتماعی و کار حرفه‌ای»، به «جامعه، اخلاق و حرفه». یعنی اخلاق، صریحا، توی اسمش اومده.

یه درس جدا نیست

سرفصل جهانی، یه نکته‌ی مهم داره: اگه مسائل اجتماعی و اخلاقی، فقط توی یه درس جدا گفته بشن، و توی بقیه‌ی درس‌ها، نه، ممکنه این باور غلط رو تقویت کنن که کار فنی، از این مسائل خالیه. برای همین، توصیه می‌کنه این موضوع‌ها، تا جای ممکن، توی همه‌ی درس‌ها بیان.

یعنی وقتی دیتابیس یاد می‌گیرید، حریم خصوصی هم؛ وقتی هوش مصنوعی، انصاف هم؛ وقتی وب، دسترس‌پذیری هم. این درس، یه نقشه‌ی کلیه؛ ولی جای اصلی اخلاق، توی همه‌ی مسیرهاست.

سه چیز که روی تصمیم ما اثر دارن

طبق سرفصل جهانی، سه چیز، روی تصمیم‌های اخلاقی یه متخصص کامپیوتر اثر می‌ذارن. یک، آیین‌نامه‌ی اخلاقی شخصی خودش؛ یعنی وجدان و ارزش‌هاش. دو، قانون‌ها و مقررات رسمی و غیررسمی محل کار، و مجوزها و گواهی‌های مربوط.

سه، آشنایی با آیین‌نامه‌های رسمی اخلاق حرفه‌ای و چارچوب‌های اخلاقی. هیچ‌کدوم، به تنهایی، کافی نیست. وجدان، بی دونستن، ممکنه چیزهایی رو نبینه؛ و قانون، معمولا، از فناوری عقب‌تره.

اثر اجتماعی

سرفصل جهانی، می‌گه کامپیوتر، اینترنت و هوش مصنوعی، شاید بیشتر از هر فناوری دیگه‌ای، توی چند دهه‌ی گذشته، جامعه رو عوض کردن: بهره‌وری خیلی بیشتر، انتخاب‌های بی‌شمار برای خبر و سرگرمی و ارتباط، و پیشرفت‌های بنیادی تقریبا توی هر شاخه‌ی علم.

ولی یه نکته‌ی مهم هم می‌گه: این، یه خیابون یه‌طرفه نیست. جامعه هم، روی کامپیوتر اثر می‌ذاره؛ و نتیجه، یه زمینه‌ی پیچیده‌ی اجتماعی‌فنیه که مدام عوض می‌شه. یعنی فناوری، از آدم‌ها و فرهنگشون، جدا نیست.

اثر روی زندگی آدم‌ها

یکی از موضوع‌های هسته‌ی این حوزه، اثر اپ‌ها، مثل شبکه‌های اجتماعی و هوش مصنوعی، روی حال خوب آدم‌ها، و ایمنی از همه نوع، جسمی، احساسی و مالی، ـه. یعنی یه اپ، فقط باید کار کنه نیست؛ باید به آدم‌هایی که ازش استفاده می‌کنن، آسیب نزنه.

یه سوال ساده، که هر سازنده‌ای می‌تونه بپرسه: «اگه یه آدم، هر روز، یه ساعت، از این ساخته‌ی من استفاده کنه، زندگیش بهتر می‌شه یا بدتر؟». جواب این سوال، همیشه ساده نیست؛ ولی پرسیدنش، خودش، یه قدم اخلاقیه.

وقتی ماشین، درباره‌ی آدم‌ها تصمیم می‌گیره

یه موضوع مهم دیگه، اثر استفاده از فناوری، مخصوصا هوش مصنوعی، فناوری‌های زیستی مثل تشخیص چهره، و سیستم‌های تصمیم‌گیری الگوریتمی، توی زندگی عمومیه. سرفصل جهانی، مثال‌هایی می‌زنه: فناوری تشخیص چهره، و الگوریتم‌هایی که منابع رو بین آدم‌ها تقسیم می‌کنن.

و یه جمله‌ی کلیدی داره: اختیار و نظارت آدم، توی این سیستم‌ها، حیاتیه. یعنی یه الگوریتم، نباید به تنهایی، درباره‌ی زندگی آدم‌ها تصمیم نهایی بگیره؛ یه آدم، باید بتونه ببینه، بفهمه، و اگه لازم شد، تصمیم رو عوض کنه. مسیر الگوریتم، یه درس درباره‌ی انصاف الگوریتم داره.

حریم خصوصی

سرفصل جهانی، می‌گه به اشتراک گذاشتن الکترونیکی اطلاعات، نیاز به تعادل بین حفاظت از حریم خصوصی و دسترسی به اطلاعات رو، نشون می‌ده. و چون کپی و پخش داده، خیلی آسون شده، حقوق حریم خصوصی، پیچیده‌تر شدن؛ مخصوصا با تفاوت‌های فرهنگی و قانونی بین کشورها.

برای یه سازنده‌ی نرم‌افزار، حریم خصوصی، یعنی پیش از جمع کردن هر داده‌ای، بپرسه: «این داده رو، واقعا لازم دارم؟». داده‌ای که جمع نشه، نه دزدیده می‌شه، نه سوءاستفاده می‌شه.

جمع کردن داده، در مقیاس بزرگ

یکی از موضوع‌های هسته، پیامدهای جمع کردن گسترده‌ی داده برای حریم خصوصیه؛ از دیتابیس‌های تراکنش، تا انبارهای داده، سیستم‌های نظارتی، رایانش ابری، و هوش مصنوعی. وقتی داده‌های کوچیک و بی‌خطر، از جاهای مختلف، کنار هم گذاشته بشن، می‌تونن یه تصویر خیلی دقیق از زندگی یه آدم بسازن.

مثلا خریدهای یه نفر، جاهایی که رفته، و ساعت‌هایی که آنلاین بوده؛ هر کدوم، تنها، شاید بی‌اهمیت باشه؛ ولی با هم، خیلی چیزها رو، درباره‌ی سلامت، عادت‌ها، و رابطه‌هاش، لو می‌دن.

ناشناس، و هویت

سرفصل جهانی، مفهوم‌های ناشناس بودن، نام مستعار، و هویت رو هم، جزو هسته می‌دونه. ناشناس بودن، یعنی هیچ‌کس نتونه بفهمه یه داده، مال کیه. نام مستعار، یعنی به جای اسم واقعی، یه اسم یا شماره‌ی دیگه.

یه نکته‌ی مهم: خیلی وقت‌ها، داده‌ای که «ناشناس» به نظر میاد، با کنار هم گذاشتن با داده‌های دیگه، دوباره شناسایی می‌شه. برای همین، ناشناس کردن واقعی، کار ساده‌ای نیست؛ و یه سازنده‌ی مسئول، نباید فقط با حذف اسم، فکر کنه کار تمومه.

فناوری، برای حفاظت

فناوری، فقط تهدید حریم خصوصی نیست؛ می‌تونه ازش محافظت هم کنه. سرفصل جهانی، دو نمونه می‌زنه: رمزنگاری سرتاسری، یعنی پیامی که فقط فرستنده و گیرنده می‌تونن بخونن، حتی سرور وسط، نه؛ و حریم خصوصی تفاضلی، یعنی روشی برای استفاده از آمار یه جمع، بی اینکه اطلاعات یه فرد خاص، لو بره.

یه سازنده‌ی مسئول، این ابزارها رو می‌شناسه، و هر جا که می‌شه، ازشون استفاده می‌کنه؛ نه چون قانون مجبورش کرده، بلکه چون درسته.

مالکیت فکری

سرفصل جهانی، مالکیت فکری رو مجموعه‌ای از حقوق مالکیت ناملموس، روی هر محصول فکر آدم، مثل یه برنامه، می‌دونه. و می‌گه چهار نوع از این حقوق، به نرم‌افزار مربوطن: حق اختراع، کپی‌رایت، راز تجاری، و نشان تجاری. قانون‌ها، از جایی به جای دیگه، فرق دارن.

و می‌گه در حالت ایده‌آل، قانون‌های مالکیت فکری، بین منافع سازنده‌ها و استفاده‌کننده‌ها، تعادل برقرار می‌کنن. برای یه برنامه‌نویس، یعنی کد دیگران رو، بی اجازه، مال خودش نکنه؛ و از کد خودش هم، آگاهانه، محافظت کنه یا آزادش بذاره.

مجوزهای نرم‌افزار

بیشتر وقت‌ها، حق استفاده از نرم‌افزار، با یه مجوز، به انگلیسی License، مشخص می‌شه. سرفصل جهانی، شناختن مجوزهای رایج نرم‌افزار رو، جزو هسته می‌دونه؛ از مجوزهای خیلی آزاد که تقریبا هر استفاده‌ای رو اجازه می‌دن، تا مجوزهایی که می‌گن اگه کد رو تغییر دادید، باید تغییرها رو هم، آزاد منتشر کنید.

برای هر برنامه‌نویس، یه عادت مهم: پیش از استفاده از کد یا کتابخونه‌ی کس دیگه، مجوزش رو بخونید. استفاده‌ی بی‌توجه، می‌تونه هم مشکل قانونی بسازه، هم به کار سازنده‌ی اصلی، بی‌احترامی باشه.

سرقت فکری و نویسندگی

سرفصل جهانی، سرقت فکری و نویسندگی رو هم، جزو هسته‌ی این بخش می‌دونه. یعنی کد، متن، یا ایده‌ی کس دیگه رو، به اسم خودمون ارائه ندیم؛ و هر جا از کار دیگران استفاده کردیم، بگیم.

این، با هوش مصنوعی مولد، سوال‌های تازه‌ای پیدا کرده: اگه یه مدل، کدی نوشت، کی نویسنده‌ست؟ جواب قطعی، هنوز همه‌جا روشن نیست؛ ولی یه اصل ساده، کمک می‌کنه: صادق باشید که کدوم بخش رو خودتون نوشتید، و کدوم رو یه ابزار، و مسئولیت کل کار رو، خودتون قبول کنید.

امنیت، و جرم‌های رایانه‌ای

سرفصل جهانی، می‌گه این فناوری‌ها، کنار همه‌ی فایده‌هاشون، تهدیدهای بی‌سابقه‌ای برای حریم خصوصی، دسته‌های تازه‌ای از جرم و رفتار ضداجتماعی، و تمرکز بزرگ خطر توی سیستم‌های اطلاعاتی، ساختن. و جرم‌های رایانه‌ای و اثرشون روی قربانی‌ها و جامعه رو، جزو هسته می‌دونه.

برای یه سازنده، یعنی امنیت، فقط یه مسئله‌ی فنی نیست؛ اخلاقیه. وقتی یه سایت، رمزهای کاربرها رو بی‌احتیاط نگه می‌داره و لو می‌ره، آدم‌های واقعی، آسیب می‌بینن.

فریب، دزدی هویت

سرفصل جهانی، مهندسی اجتماعی، کلاهبرداری با کمک کامپیوتر، و دزدی هویت رو هم، اسم می‌بره. مهندسی اجتماعی، یعنی فریب دادن آدم‌ها، به جای شکستن سیستم؛ مثل پیامی که وانمود می‌کنه از بانکه و رمز می‌خواد.

یه سازنده‌ی مسئول، سیستمش رو طوری می‌سازه که فریب خوردن، سخت‌تر باشه: مثلا هیچ‌وقت، از کاربر، رمز رو با پیام نخواد؛ و کارهای حساس رو، با یه مرحله‌ی تایید دوم، امن‌تر کنه. مسیر «امنیت و حریم خصوصی در اینترنت» کتابخونه، طرف کاربرش رو یاد می‌ده.

دسترس‌پذیری: همه بتونن

سرفصل جهانی، توی آخرین نسخه‌ش، یه واحد تازه به این حوزه اضافه کرده، درباره‌ی تنوع، برابری، فراگیری، و دسترس‌پذیری. یکی از روشن‌ترین تیکه‌هاش، دسترس‌پذیریه؛ یعنی نرم‌افزار، طوری ساخته بشه که آدم‌هایی با توانایی‌های متفاوت، مثلا کسی که نمی‌بینه، یا دستش لرزش داره، هم بتونن ازش استفاده کنن.

مثل یه سطح شیب‌دار کنار پله‌ها: برای کسی که با ویلچر میاد، لازمه؛ ولی مادری که کالسکه داره، و آدمی که چمدون می‌کشه هم، ازش سود می‌برن. نرم‌افزار دسترس‌پذیر هم، معمولا، برای همه، بهتره.

برای همه، نه برای چند نفر

همون واحد، می‌گه دانشجوهای این رشته، وظیفه‌ی ویژه‌ای دارن که مهارت‌هاشون رو، طوری به کار ببرن که به نفع همه‌ی آدم‌ها کار کنه، نه علیه بعضی‌ها. و می‌گه همه‌ی دانشجوها، حق یه محیط یادگیری فراگیر و دسترس‌پذیر رو دارن.

برای یه سازنده، یعنی وقتی چیزی می‌سازید، فقط خودتون و آدم‌های شبیه خودتون رو، در نظر نگیرید. یه اپ که فقط با گوشی گرون، اینترنت سریع، یا یه زبان خاص کار می‌کنه، خیلی از آدم‌ها رو، بی اینکه بخواید، بیرون می‌ذاره.

پایداری: برق و زمین

سرفصل جهانی، پایداری رو هم، جزو این حوزه می‌دونه، و از یه تعریف جهانی نقل می‌کنه: توسعه‌ای که نیازهای امروز رو، بی به خطر انداختن توانایی نسل‌های آینده برای برآوردن نیازهاشون، برآورده کنه.

و می‌گه برآوردهایی هست که درصد دورقمی از برق جهان، صرف فعالیت‌های محاسباتی می‌شه، که اگه کنترل نشه، احتمالا بیشتر هم می‌شه؛ و دستگاه‌های الکترونیکی، به استخراج مواد معدنی و زباله‌ی الکترونیکی، دامن می‌زنن. برای یه سازنده، یعنی کد کارا، فقط سریع‌تر نیست؛ برق کمتری هم مصرف می‌کنه.

حرفه‌ای بودن

سرفصل جهانی، توی واحد اخلاق حرفه‌ای، ماهیت حرفه‌ای بودن رو اینطوری توصیف می‌کنه: مراقبت، توجه، نظم، مسئولیت امانت‌داری، و راهنمایی کردن تازه‌کارها. یعنی حرفه‌ای بودن، فقط بلد بودن کار نیست؛ با دقت و مراقبت انجام دادنشه.

یه مثال ساده: یه برنامه‌نویس که می‌دونه کدش، یه باگ خطرناک داره، ولی چون عجله داره، چیزی نمی‌گه، داره امانت‌داری رو زیر پا می‌ذاره. حرفه‌ای بودن، یعنی گفتن، حتی وقتی خوشایند نیست.

پاسخگویی و مسئولیت

همون واحد، پاسخگویی، مسئولیت، و تعهد قانونی رو، جزو هسته می‌دونه؛ با مثال‌هایی مثل درستی نرم‌افزار، قابل اعتماد بودن و ایمنی، ضمانت، و سهل‌انگاری. یعنی وقتی نرم‌افزاری می‌سازید، مسئول اثرش هستید.

سرفصل، توی متن پایه‌ی این حوزه، یه جمله‌ی مهم از یه نسخه‌ی قدیمی‌تر رو هم نقل می‌کنه: متخصص‌های آینده، باید مسئولیتی که به دوش می‌گیرن، و پیامدهای احتمالی شکست رو بفهمن؛ و محدودیت‌های خودشون، و محدودیت‌های ابزارهاشون رو هم.

به‌روز موندن، یه وظیفه‌ست

یه نکته‌ی جالب: سرفصل جهانی، به‌روز موندن رو هم، بخشی از اخلاق حرفه‌ای می‌دونه؛ یعنی آشنا موندن با ابزارها، مهارت‌ها، و چارچوب‌های قانونی و حرفه‌ای، و توانایی و مسئولیت ارزیابی خود و پیشرفت.

چرا اخلاقیه؟ چون کسی که با روش‌های قدیمی و ناامن، نرم‌افزار می‌سازه، حتی با نیت خوب، ممکنه به آدم‌ها آسیب بزنه. یادگیری مادام‌العمر، فقط برای پیشرفت شخصی نیست؛ برای امن نگه داشتن کسایی که از پل شما رد می‌شن هم هست.

اخلاق، با قانون فرق داره

سرفصل جهانی، یکی از موضوع‌های هسته رو این می‌دونه: چرا اخلاق توی کامپیوتر مهمه، و اخلاق، چه شباهت‌ها و چه فرق‌هایی با قانون و هنجارهای اجتماعی داره. یه فرق مهم: قانون، معمولا، کمترین چیزیه که باید رعایت کنید؛ اخلاق، می‌پرسه درست چیه.

و فناوری، معمولا، از قانون جلوتره. وقتی یه فناوری تازه میاد، ممکنه سال‌ها طول بکشه تا قانونی براش نوشته بشه. توی این فاصله، تنها چیزی که جلوی آسیب رو می‌گیره، تصمیم‌های اخلاقی خود سازنده‌هاست.

هیچ نظریه‌ای، کافی نیست

سرفصل جهانی، می‌گه نظریه‌ها و اصول اخلاقی، پایه‌ی تحلیل اخلاقی‌ان، چون دیدگاه‌هایی‌ان که می‌تونن راهنمای تصمیم باشن. ولی هر نظریه، فرض‌ها و روش‌های متفاوتی داره؛ و تصمیم توی موقعیت‌های مختلف، شاید نظریه‌های متفاوت، یا ترکیبی از اون‌ها، رو لازم داشته باشه.

و صریحا می‌گه هیچ نظریه‌ای، برای همه‌ی موقعیت‌ها کاربرد نداره، و هیچ چارچوب اخلاقی‌ای، «بهترین» نیست. و فرهنگ هم، روی اینکه چی «قابل قبوله»، اثر داره. پس مهارت اصلی، اینه که یاد بگیرید از چند زاویه فکر کنید.

همه‌ی کسایی که اثر می‌گیرن

یه ابزار ساده که سرفصل جهانی اسم می‌بره، تحلیل ذی‌نفع‌هاست؛ به انگلیسی Stakeholder Analysis. یعنی پیش از یه تصمیم، فهرست کنید چه کسایی از اون اثر می‌گیرن: کاربرها، کسایی که کاربر نیستن ولی اثر می‌گیرن، کارمندها، جامعه، و نسل‌های بعد.

بعد، برای هر کدوم بپرسید: این تصمیم، براش خوبه یا بد؟ خیلی وقت‌ها، یه تصمیم که برای یه گروه عالیه، برای یه گروه دیگه، که اصلا بهش فکر نکرده بودیم، آسیب‌زنه. همین فهرست ساده، خیلی از این آسیب‌ها رو، پیش از اتفاق، نشون می‌ده.

بدهی اخلاقی

سرفصل جهانی، یه مفهوم جالب داره: بدهی اخلاقی؛ یعنی عقب انداختن فکر کردن به اثرهای اخلاقی، توی تصمیم‌های فنی. مثل بدهی فنی، که وقتی برای سرعت، کد بد می‌نویسید و بعدا، باید با هزینه‌ی بیشتر درستش کنید.

مثلا یه تیم، برای اینکه زود منتشر کنه، می‌گه «حریم خصوصی رو بعدا درست می‌کنیم». ولی «بعدا»، معمولا، وقتیه که داده‌ی میلیون‌ها نفر، جمع شده؛ و درست کردن، خیلی سخت‌تر، گرون‌تر، و گاهی، غیرممکنه. فکر کردن از اول، ارزون‌ترین راهه.

حرف زدن، و گوش دادن

سرفصل جهانی، ارتباط رو هم، بخشی از این حوزه می‌دونه، و می‌گه محاسبه، ذاتا یه رشته‌ی جمعی و اجتماعیه. و می‌گه ارتباط خوب، برای شفافیت و قابل اعتماد بودن لازمه. یه جمله‌ی مهم هم داره: متخصص‌های کامپیوتر، فقط گوینده نیستن؛ شنونده هم هستن، و باید بازخورد ذی‌نفع‌ها رو، با دقت بشنون و ازش استفاده کنن.

و می‌گه مهارت ارتباط موثر، چیزی نیست که آدم «خودش بلده»؛ یاد گرفتنیه. گاهی، مهم‌ترین کار اخلاقی، فقط گوش دادن به کاربریه که می‌گه «این، به من آسیب زد».

چند سوال، پیش از ساختن

برای هر چیزی که می‌سازید، چند سوال ساده: این داده رو، واقعا لازم دارم؟ اگه این سیستم، اشتباه کنه، کی آسیب می‌بینه، و چطوری می‌تونه اعتراض کنه؟ آیا کسی که نمی‌بینه، یا گوشی ساده داره، هم می‌تونه ازش استفاده کنه؟

اگه این سیستم، دست آدم بد بیفته، چه کار بدی می‌شه باهاش کرد؟ کد یا داده‌ای که استفاده کردم، اجازه‌ش رو داشتم؟ و اگه این تصمیم، فردا توی یه خبر منتشر بشه، از گفتنش خجالت می‌کشم؟ این سوال‌ها، جواب همه‌ی مسائل رو نمی‌دن؛ ولی خیلی از اشتباه‌ها رو، زود، پیدا می‌کنن.

برای صاحب‌های کسب‌وکار

برای صاحب یه کسب‌وکار، اخلاق در نرم‌افزار، مستقیم به اعتماد مشتری ربط داره. سایتی که فقط داده‌ی لازم رو جمع می‌کنه، رمزها رو امن نگه می‌داره، و برای همه، قابل استفاده‌ست، اعتماد می‌سازه؛ و اعتماد، یکی از باارزش‌ترین دارایی‌های هر کسب‌وکاره.

یه کار عملی: از تیم یا برنامه‌نویستون بپرسید چه داده‌هایی از مشتری‌ها جمع می‌شه، کجا نگه داشته می‌شه، و کی بهش دسترسی داره. اگه جواب روشنی نبود، اولین قدم، پیدا کردن همین جوابه.

برای هر سنی

اخلاق دیجیتال رو، می‌شه خیلی زود یاد داد. یه بچه، می‌تونه یاد بگیره که عکس دوستش رو، بی اجازه، جایی نذاره؛ یه نوجوون، که کد یا متن کس دیگه رو، به اسم خودش ارائه نده؛ و هر کسی، که پیش از به اشتراک گذاشتن اطلاعات، فکر کنه.

برای کسی که تازه برنامه‌نویسی یاد می‌گیره، بهترین زمان برای ساختن این عادت‌ها، همین حالاست؛ پیش از اینکه کدش، به دست میلیون‌ها نفر برسه. پل رو، از روز اول، محکم بسازید.

چند واژه

Computing Ethics، یعنی اخلاق در علوم کامپیوتر. Privacy، یعنی حریم خصوصی. Intellectual Property، یعنی مالکیت فکری. License، یعنی مجوز. Plagiarism، یعنی سرقت فکری. Social Engineering، یعنی فریب آدم‌ها به جای شکستن سیستم.

Accessibility، یعنی دسترس‌پذیری. Sustainability، یعنی پایداری. Stakeholder، یعنی ذی‌نفع. Accountability، یعنی پاسخگویی. End-to-End Encryption، یعنی رمزنگاری سرتاسری. Ethical Debt، یعنی بدهی اخلاقی. Human Oversight، یعنی نظارت آدم.

جواب کوتاه

اگه کسی پرسید «اخلاق در علوم کامپیوتر یعنی چی»:

یعنی فکر کردن به اثر نرم‌افزار و داده روی آدم‌ها و جامعه، و تصمیم درباره‌ی اینکه چی بسازیم و چطوری؛ مثل مهندس پل، که کسایی که هرگز نمی‌بینه، بهش اعتماد کردن. سرفصل جهانی، ساعتش رو دو برابر کرده و توی همه‌ی حوزه‌ها گذاشته. موضوع‌ها: اثر اجتماعی و نظارت آدم بر تصمیم ماشین؛ حریم خصوصی؛ مالکیت فکری و مجوز؛ امنیت و فریب؛ دسترس‌پذیری؛ پایداری؛ و مسئولیت حرفه‌ای. هیچ نظریه‌ای کافی نیست؛ از چند زاویه، و با فهرست ذی‌نفع‌ها، فکر کنید.

چند باور رایج

  • «من فقط کد می‌نویسم؛ اخلاق کار مدیرهاست.» هر تصمیم فنی، یه تصمیم اخلاقیه.
  • «اگه قانونیه، پس اخلاقیه.» قانون، کمترینه؛ و از فناوری عقب‌تره.
  • «حریم خصوصی رو بعدا درست می‌کنیم.» بدهی اخلاقی؛ از اول، ارزون‌تره.
  • «داده رو ناشناس کردیم، پس امنه.» کنار هم گذاشتن، دوباره شناسایی می‌کنه.
  • «یه نظریه‌ی اخلاقی درست، همه رو حل می‌کنه.» هیچ نظریه‌ای، برای همه کافی نیست.

یه مثال

یه تیم کوچیک، یه اپ نوبت‌دهی برای مطب‌ها می‌ساخت. برای سریع‌تر شدن، اولش تصمیم گرفتن همه‌ی اطلاعات بیمارها، از جمله دلیل مراجعه، رو، بی رمزنگاری، روی یه سرور معمولی نگه دارن، و «امنیت رو بعدا درست کنن».

یکی از برنامه‌نویس‌ها، پیش از انتشار، فهرست ذی‌نفع‌ها رو نوشت: بیمارها، منشی‌ها، پزشک‌ها، و کسی که شاید سرور رو هک کنه. پرسید: «اگه این داده‌ها لو بره، کی آسیب می‌بینه؟». تیم، دو هفته دیرتر منتشر کرد؛ دلیل مراجعه رو اصلا جمع نکرد، بقیه رو رمزنگاری کرد، و دسترسی منشی‌ها رو محدود کرد. پل، محکم‌تر شد؛ و هیچ بیماری، هیچ‌وقت، نفهمید از چه خطری رد شده.

تمرین امروز

امروز، یه اپ رو، با چشم یه مهندس پل، ببینید.

  1. یه اپ که هر روز ازش استفاده می‌کنید رو انتخاب کنید.
  2. فهرست کنید فکر می‌کنید چه داده‌هایی از شما جمع می‌کنه؛ و کدوم، واقعا لازمه.
  3. ذی‌نفع‌هاش رو بنویسید: کی اثر می‌گیره، حتی کسی که کاربرش نیست.
  4. یه سوال از بخش «چند سوال، پیش از ساختن» رو، روی همین اپ امتحان کنید.
  5. یه تنظیم حریم خصوصی همین اپ رو باز کنید و ببینید چه انتخاب‌هایی بهتون داده.

درس بعدی، یکی از مسیرهای پایه‌ست: مفاهیم برنامه‌نویسی.

جمع‌بندی. آنچه از این درس با خودتان می‌برید.

  • اخلاق: فکر کردن به اثر نرم‌افزار روی آدم‌ها و جامعه.
  • مثل مهندس پل: کسایی که هرگز نمی‌بینید، بهتون اعتماد کردن.
  • موضوع‌ها: اثر اجتماعی، حریم خصوصی، مالکیت فکری، امنیت، دسترس‌پذیری، پایداری.
  • توی آخرین سرفصل، ساعتش دو برابر شد و توی همه‌ی حوزه‌هاست.
  • هیچ نظریه‌ای کافی نیست؛ از چند زاویه فکر کنید.

خودتون رو بسنجید

۱۵ پرسش، هر بار تازه از میان ۳۰ پرسش این درس. آخرش فقط کارنامه رو می‌بینید: چند تا درست، چند تا نادرست.

خودتون رو بسنجید

۱۵ پرسش

  • هر بار پرسش‌ها و ترتیب گزینه‌ها عوض می‌شه.
  • تا آخر نمی‌گیم کدوم جواب درست بوده؛ می‌تونید برگردید و جوابتون رو عوض کنید.
  • آخرش کارنامه می‌گیرید: چند تا درست، چند تا نادرست.
  • اگه وسطش بستید، دوباره که باز کنید از همون‌جا ادامه می‌دید.

فصل‌های این درس