مرز در حال گسترش AI و داده های مورد نیاز آن
هوش مصنوعی به سرعت است تغییر نحوه زندگی ما، کار و حکومت کنید. در بهداشت عمومی و خدمات عمومی ، ابزارهای هوش مصنوعی نوید دهنده کارآیی بیشتر و تصمیم گیری سریعتر است. اما در زیر سطح این تحول ، عدم تعادل رو به رشد است: توانایی ما در جمع آوری داده ها از توانایی ما در اداره مسئولیت پذیری پیشی گرفته است.
این فراتر از یک چالش فنی برای بحران حریم خصوصی است. از نرم افزار پیش بینی پولیس گرفته تا ابزارهای نظارتی و خوانندگان پلاک خودکار ، داده های مربوط به افراد در حال جمع آوری ، تجزیه و تحلیل و با سرعت بی سابقه است. و با این حال ، بیشتر شهروندان هیچ تصوری ندارند که چه کسی داده های خود را ، چگونه از آن استفاده می شود یا اینکه از آن محافظت می شود.
من این را از نزدیک دیده ام. من به عنوان یک مأمور ویژه سایبر FBI و اکنون مدیرعامل یک شرکت پیشرو در زمینه ایمنی عمومی ، من در دولت و بخش خصوصی کار کرده ام. یک چیز واضح است: اگر ما اکنون نحوه برخورد با حریم خصوصی داده ها را برطرف نکنیم ، هوش مصنوعی فقط مشکلات موجود را بدتر می کند. و یکی از بزرگترین مشکلات؟ باغ های دیواری.
باغ های دیواری چیست و چرا در امنیت عمومی خطرناک هستند؟
باغهای دیواری سیستم های بسته ای هستند که یک شرکت دسترسی ، جریان و استفاده از داده ها را کنترل می کند. آنها در تبلیغات و رسانه های اجتماعی متداول هستند (به سیستم عامل های فیس بوک ، گوگل و آمازون فکر کنید) اما به طور فزاینده ای ، آنها در امنیت عمومی نیز حضور دارند.
شرکت های ایمنی عمومی نقش مهمی در زیرساخت های مدرن پلیس دارند ، با این حال ، ماهیت اختصاصی برخی از این سیستم ها به این معنی است که آنها همیشه برای تعامل روان با ابزارهای سایر فروشندگان طراحی نشده اند.
این باغ های دیواری ممکن است قابلیت های قدرتمندی مانند فیلم های بدنه مبتنی بر ابر یا خوانندگان پلاک خودکار را ارائه دهند ، اما همچنین یک انحصار در مورد نحوه ذخیره ، دسترسی و تجزیه و تحلیل داده ها ایجاد می کنند. سازمان های اجرای قانون غالباً خود را در قراردادهای بلند مدت با سیستم های اختصاصی که با یکدیگر صحبت نمی کنند ، قفل شده اند. نتیجه؟ تکه تکه شدن ، بینش های خاموش و ناتوانی در پاسخ موثر در جامعه در هنگام اهمیت بیشتر.
عموم مردم نمی دانند ، و این یک مشکل است
بیشتر مردم نمی دانند که چه مقدار از اطلاعات شخصی خود در این سیستم ها جریان دارد. در بسیاری از شهرها ، مکان ، وسیله نقلیه ، فعالیت آنلاین و حتی وضعیت عاطفی می تواند از طریق وصله ای از ابزارهای AI محور استنباط و ردیابی شود. این ابزارها را می توان به عنوان ارتقاء مبارزه با جرم به بازار عرضه کرد ، اما در صورت عدم شفافیت و تنظیم ، به راحتی می توان از آنها سوء استفاده کرد.
و این فقط این نیست که داده ها وجود دارد ، بلکه در اکوسیستم های دیواری وجود دارد که توسط شرکت های خصوصی با حداقل نظارت کنترل می شوند. به عنوان مثال ، ابزارهایی مانند خوانندگان پلاک اکنون در هزاران جامعه در سراسر ایالات متحده قرار دارند، جمع آوری داده ها و تغذیه آن در شبکه اختصاصی آنها. ادارات پلیس اغلب حتی سخت افزار را در اختیار ندارند ، آنها آن را اجاره می کنند ، به این معنی که خط لوله داده ، تجزیه و تحلیل و هشدارها توسط یک فروشنده دیکته می شود و نه با اجماع عمومی.
چرا این باید پرچم های قرمز را بالا ببرد
هوش مصنوعی برای عملکرد به داده ها نیاز دارد. اما هنگامی که داده ها در داخل باغ های دیواری قفل شده اند ، نمی توان آن را متقاطع ، اعتبار یا به چالش کشید. این بدان معناست که تصمیماتی در مورد اینکه چه کسی کشیده می شود ، جایی که منابع می روند یا چه کسی به عنوان یک تهدید پرچم گذاری می شود ، بر اساس اطلاعات جزئی و گاه نادرست انجام می شود.
خطر؟ تصمیمات ضعیف ، نقض آزادی های احتمالی مدنی و شکاف فزاینده ای بین ادارات پلیس و جوامعی که در آن خدمت می کنند. شفافیت از بین می رود. اعتماد تبخیر می شود. و نوآوری خفه شده است ، زیرا ابزارهای جدید نمی توانند وارد بازار شوند مگر اینکه مطابق با محدودیت های این سیستم های دیواری باشند.
در سناریویی که یک سیستم تشخیص پلاک به طور نادرست یک وسیله نقلیه دزدیده شده را بر اساس داده های منسوخ یا مشترک پرچم گذاری می کند ، بدون این که امکان تأیید این اطلاعات در سیستم عامل ها یا حسابرسی نحوه تصمیم گیری این تصمیم را داشته باشد ، ممکن است افسران بر روی مثبت کاذب عمل کنند. ما قبلاً حوادثی را دیده ایم که در آن فناوری ناقص منجر به دستگیری های نادرست شد یا تقابل های تشدید شده این نتایج فرضی نیست ، آنها در جوامع سراسر کشور اتفاق می افتد.
آنچه در واقع اجرای قانون به آن نیاز دارد
به جای قفل کردن داده ها ، ما به اکوسیستم های باز نیاز داریم که از اشتراک گذاری داده های ایمن ، استاندارد و قابل تعامل پشتیبانی می کنندبشر این به معنای قربانی کردن حریم خصوصی نیست. در مقابل ، این تنها راه برای اطمینان از اجرای حفاظت از حریم خصوصی است.
برخی از سیستم عامل ها در این زمینه تلاش می کنند. به عنوان مثال ، اولین بار ابزارهای آگاهی موقعیتی در زمان واقعی را ارائه می دهد که بر ادغام مسئول داده های عمومی در دسترس است. برخی دیگر ، مانند Forcemetrics ، بر ترکیب مجموعه داده های متفاوت مانند 911 تماس ، سوابق بهداشت رفتاری و تاریخچه حادثه قبلی متمرکز شده اند تا به افسران بهتر در این زمینه ببخشند. اما بسیار مهم ، این سیستم ها با نیازهای ایمنی عمومی و احترام جامعه به عنوان یک اولویت ساخته شده اند ، نه یک نتیجه گیری.
ساخت زیرساخت های حریم خصوصی
یک رویکرد حریم خصوصی اول به معنای بیش از کاهش اطلاعات حساس است. این به معنای محدود کردن دسترسی به داده ها است مگر اینکه یک نیاز واضح و قانونی وجود داشته باشد. این به معنای مستند سازی نحوه تصمیم گیری و فعال کردن ممیزی های شخص ثالث است. این به معنای همکاری با ذینفعان جامعه و گروه های حقوق مدنی برای شکل دادن به سیاست و اجرای است. این مراحل منجر به تقویت امنیت و مشروعیت کلی می شود.
با وجود پیشرفت های تکنولوژیکی ، ما هنوز در یک خلاء قانونی فعالیت می کنیم. ایالات متحده فاقد قانون جامع حریم خصوصی داده های فدرال است، آژانس ها و فروشندگان را ترک می کنند تا قوانین خود را تنظیم کنند. اروپا دارد GDPR، که نقشه راه برای استفاده از داده های مبتنی بر رضایت و پاسخگویی ارائه می دهد. در عوض ، ایالات متحده دارای وصله ای تکه تکه از سیاست های سطح دولتی است که به اندازه کافی به پیچیدگی های هوش مصنوعی در سیستم های عمومی نمی پردازد.
این نیاز به تغییر دارد. ما در مورد نحوه جمع آوری ، ذخیره و به اشتراک گذاری داده ها ، به استانداردهای واضح و قابل اجرا نیاز داریم. و ما باید ذینفعان جامعه را در گفتگو بگنجانیم. رضایت ، شفافیت و پاسخگویی باید در هر سطح از سیستم ، از تهیه تا اجرای تا استفاده روزانه پخته شود.
خط پایین: بدون قابلیت همکاری ، حریم خصوصی رنج می برد
در امنیت عمومی ، زندگی در خط است. این ایده که یک فروشنده می تواند دسترسی به داده های مهم ماموریت را کنترل کند و نحوه استفاده از آن را محدود کند ، فقط ناکارآمد نیست. غیر اخلاقی است
ما باید فراتر از این اسطوره حرکت کنیم که نوآوری و حریم خصوصی با هم اختلاف دارند. AI مسئول به معنای سیستم های عادلانه تر ، مؤثرتر و پاسخگوتر است. این به معنای رد قفل فروشنده ، اولویت بندی قابلیت همکاری و خواستار استانداردهای باز است. از آنجا که در یک دموکراسی ، هیچ شرکتی واحد نباید داده هایی را که تصمیم می گیرد کمک کند ، چه کسی متوقف می شود یا چه کسی عقب مانده است ، کنترل کند.
