0
00:00:04,065 --> 00:00:20,818
بی سی موویز، مرجع دانلود فیلم و سریال با زیرنویس چسبیده
BcMoviez.Com
t.me/BcMoviez
1
00:00:24,065 --> 00:00:26,818
به نظرم هوش مصنوعی واقعاً بهتآوره.
2
00:00:28,361 --> 00:00:31,489
خیلهخب، حلقه بزنید. آرایشِ خوبیه.
3
00:00:33,116 --> 00:00:36,703
هوش مصنوعی پتانسیل اینو داره که فقر رو ریشهکن کنه،
4
00:00:36,786 --> 00:00:38,705
داروهای جدیدی بهمون بده،
5
00:00:39,330 --> 00:00:41,583
و دنیامون رو حتی صلحآمیزتر کنه.
6
00:00:46,087 --> 00:00:47,087
دمتون گرم.
7
00:00:49,883 --> 00:00:53,428
اما تو این راه کلی خطر وجود داره.
8
00:01:04,773 --> 00:01:09,611
با هوش مصنوعی، ما در واقع داریم یه هوش غیرانسانی خلق میکنیم
9
00:01:09,694 --> 00:01:11,863
که اصلاً قابل پیشبینی نیست.
10
00:01:14,407 --> 00:01:16,451
هرچی قدرتمندتر میشه،
11
00:01:16,534 --> 00:01:19,746
کجا قراره واسه هوش مصنوعی خط قرمز بکشیم؟
12
00:01:19,829 --> 00:01:22,665
از این نظر که چطور میخوایم ازش استفاده کنیم، یا نکنیم؟
13
00:01:25,001 --> 00:01:28,505
هیچجایی برای این بحث، حیاتیتر از
14
00:01:28,588 --> 00:01:31,049
کاربردهای نظامی نیست.
15
00:01:34,010 --> 00:01:38,890
میدون جنگ حالا شده قلمروی نرمافزار و سختافزار.
16
00:01:41,059 --> 00:01:42,936
هدف شناسایی شد...
17
00:01:43,019 --> 00:01:44,771
و ارتشها دارن با هم مسابقه میدن
18
00:01:44,854 --> 00:01:48,399
تا هوش مصنوعی رو سریعتر از دشمناشون توسعه بدن.
19
00:01:49,526 --> 00:01:50,526
نفله شدم.
20
00:01:53,822 --> 00:01:55,782
داریم به سمت دنیایی میریم
21
00:01:55,865 --> 00:01:58,326
که نه فقط ارتشهای بزرگ،
22
00:01:58,409 --> 00:02:02,997
بلکه گروههای غیرقانونی و صنایع خصوصی،
23
00:02:03,081 --> 00:02:06,042
یا حتی پلیسِ همین پایین خیابون،
24
00:02:06,543 --> 00:02:10,046
بتونن از سلاحهایی استفاده کنن که خودشون خودکار آدم میکشن.
25
00:02:12,006 --> 00:02:17,303
واقعاً میخوایم اختیار مرگ و زندگی رو بدیم دست الگوریتمها و نرمافزارهای کامپیوتری؟
26
00:02:18,638 --> 00:02:21,516
این یکی از حادترین چالشهای دوران ماست.
27
00:02:23,935 --> 00:02:26,354
و اگه درست ازش استفاده نشه،
28
00:02:26,437 --> 00:02:30,275
واسه تکتک آدمای روی این سیاره خطر مرگباری داره.
29
00:03:28,291 --> 00:03:30,376
ایول بچهها، کارتون حرف نداشت.
30
00:03:59,906 --> 00:04:02,200
این لنزش از قبلی وسیعتره.
31
00:04:02,283 --> 00:04:03,117
جدی؟
32
00:04:03,201 --> 00:04:05,203
دیتای خیلی بیشتری رو میتونی ببینی.
33
00:04:05,286 --> 00:04:06,287
خیلی ردیفه.
34
00:04:07,538 --> 00:04:11,167
ما تو «شیلد ایآی» داریم یه خلبان هوش مصنوعی میسازیم
35
00:04:11,251 --> 00:04:14,879
که تکنولوژی هوش مصنوعیِ خودران رو برداشته
36
00:04:14,963 --> 00:04:16,631
و گذاشته روی هواپیما.
37
00:04:19,300 --> 00:04:21,719
وقتی از خلبان هوش مصنوعی حرف میزنیم،
38
00:04:21,803 --> 00:04:25,139
منظورمون اینه که به هواپیما سطح بالاتری از استقلال و خودمختاری بدیم.
39
00:04:25,223 --> 00:04:27,850
اینا قراره خودشون مشکلات رو حل کنن.
40
00:04:29,602 --> 00:04:32,355
«نوا» یه کوادکوپتر خودگردانه
41
00:04:32,438 --> 00:04:35,942
که ساختمونها و محیطهای زیرزمینی رو جستوجو میکنه،
42
00:04:36,859 --> 00:04:38,611
اونم جلوتر از نیروهای پاکسازی،
43
00:04:38,695 --> 00:04:41,322
تا توی اون فضاها بشه چشم و گوشِ ما.
44
00:04:41,906 --> 00:04:44,534
قشنگ معلومه یه عالمه پیشرفت کرده
45
00:04:44,617 --> 00:04:45,618
نسبت به آخرین باری که دیدیمش.
46
00:04:45,702 --> 00:04:47,930
امروز داریم روی یه سری تغییرات تو بخش کاوش کار میکنیم.
47
00:04:47,954 --> 00:04:50,248
داریم رو سیستم طبقه به طبقهاش کار میکنیم.
48
00:04:50,331 --> 00:04:53,584
اول یه طبقه و همهی اتاقاش رو تموم میکنه، بعد میره طبقهی دوم.
49
00:04:54,294 --> 00:04:56,796
- عالیه.
- تازگیا یه سری تغییرات دادیم...
50
00:04:56,879 --> 00:04:58,548
خیلیها همیشه ازم میپرسن
51
00:04:58,631 --> 00:05:02,468
چرا هوش مصنوعی یه توانایی حیاتی و مهمه.
52
00:05:02,552 --> 00:05:06,973
فقط دارم به ماموریتهایی که انجام میدادم فکر میکنم.
53
00:05:09,142 --> 00:05:10,935
هفت سال تو نیروی دریایی بودم.
54
00:05:11,561 --> 00:05:15,273
تکاور سابق نیروی دریایی بودم که دو بار به افغانستان اعزام شدم،
55
00:05:15,356 --> 00:05:17,191
یه بار هم به منطقه عملیاتی اقیانوس آرام.
56
00:05:18,026 --> 00:05:22,947
توی یه روز عادی، شاید مجبور میشدیم ۱۵۰ تا محوطه یا ساختمون مختلف رو پاکسازی کنیم.
57
00:05:30,997 --> 00:05:34,250
یکی از تواناییهای اصلی، نبرد در فضای بستهست.
58
00:05:35,293 --> 00:05:39,172
درگیری مسلحانه تو فاصلههای خیلی نزدیک، اونم داخل ساختمونا.
59
00:05:41,466 --> 00:05:42,967
بهت شلیک میشه.
60
00:05:43,468 --> 00:05:46,471
احتمالاً داخل ساختمون تلههای انفجاری کار گذاشتن.
61
00:05:49,015 --> 00:05:55,229
این خطرناکترین کاریه که یه عضو نیروهای عملیات ویژه،
62
00:05:55,313 --> 00:05:58,358
یا یه سرباز پیادهنظام، میتونه تو منطقه جنگی انجام بده.
63
00:05:58,441 --> 00:05:59,441
بدون استثنا، شک نکن.
64
00:06:12,497 --> 00:06:16,334
تا آخر عمرم شکرگزار اون دورانی هستم که تو نیروی دریایی گذروندم.
65
00:06:17,168 --> 00:06:22,423
یه سری لحظهها و خاطرات هست که وقتی بهشون فکر میکنم،
66
00:06:22,507 --> 00:06:24,592
واقعاً دگرگون میشم.
67
00:06:28,346 --> 00:06:32,725
اینکه میگن آزادی رایگان به دست نمیاد شاید کلیشه باشه، ولی من ۱۰۰ درصد بهش باور دارم.
68
00:06:32,809 --> 00:06:37,105
اوم، من تجربهش کردم، بهای سنگینی داره.
69
00:06:38,022 --> 00:06:39,022
ببخشید.
70
00:06:41,067 --> 00:06:44,570
وقتی واسه یکی از همتیمیهات اتفاق بدی میافته،
71
00:06:44,654 --> 00:06:46,864
چه زخمی بشن، چه کشته بشن،
72
00:06:46,948 --> 00:06:49,700
واقعاً... واقعاً فاجعهبار و تلخه.
73
00:06:49,784 --> 00:06:52,912
میدونی، واسه من الان تو این کاری که داریم انجام میدیم،
74
00:06:52,995 --> 00:06:56,582
این انگیزه رو میده که... بتونم
75
00:06:56,666 --> 00:06:58,835
میدونی، دفعات تکرار این اتفاقات رو کمتر کنم.
76
00:06:58,918 --> 00:07:00,336
اگه یه بار دیگه همچین اتفاقی بیفته...
77
00:07:07,176 --> 00:07:08,886
اواخر دهه ۲۰۰۰ بود،
78
00:07:08,970 --> 00:07:11,556
که توی وزارت دفاع یهو یه جرقهای زده شد،
79
00:07:11,639 --> 00:07:15,351
درباره چیزی که شاید بشه بهش گفت انقلابِ اتفاقیِ رباتیک.
80
00:07:15,893 --> 00:07:19,564
ما هزاران ربات هوایی و زمینی رو ریختیم توی عراق و افغانستان.
81
00:07:21,482 --> 00:07:24,068
وقتی دولت اوباما از من خواست
82
00:07:24,152 --> 00:07:26,404
که قائممقام وزیر دفاع بشم،
83
00:07:26,904 --> 00:07:29,323
شیوه جنگیدن ما...
84
00:07:29,407 --> 00:07:31,117
خب، مسلماً داشت عوض میشد.
85
00:07:32,452 --> 00:07:36,330
جاهایی که قبلاً آدمها رو میفرستادیم، حالا از رباتها استفاده میشد.
86
00:07:37,999 --> 00:07:40,376
سیستمهای اولیه رباتیک با کنترل از راه دور کار میکردن.
87
00:07:40,460 --> 00:07:45,173
یه نفر پشتش بود که هدایتش میکرد، دقیقاً مثل یه ماشین کنترلی.
88
00:07:46,632 --> 00:07:51,512
اولش کارشون بیشتر رفتن سراغِ بمبهای دستساز بود،
89
00:07:52,013 --> 00:07:54,849
و اگه بمب منفجر میشد، ربات هم باهاش میرفت رو هوا.
90
00:07:57,393 --> 00:08:00,396
اونوقت با خودت میگفتی: «ای بابا، حیف شد. برو اون یکی ربات رو بیار.»
91
00:08:02,273 --> 00:08:05,067
توی افغانستان، پهپادهای «پردتور» رو داشتیم،
92
00:08:05,151 --> 00:08:09,739
و اونها شدن یه ابزار خیلی خیلی کارآمد برای انجام حملات هوایی.
93
00:08:13,117 --> 00:08:16,829
به مرور زمان، طراحهای نظامی به این فکر افتادن که،
94
00:08:16,913 --> 00:08:20,791
«دیگه چه کارهایی از دست این رباتها برمیاد؟» و اصلاً تهِ این قضیه کجاست؟
95
00:08:20,875 --> 00:08:24,170
و یکی از بحثهای اصلی، گرایش به سمتِ خودگردانیِ بیشتر بود.
96
00:08:26,506 --> 00:08:30,635
سلاح خودگردان چیزیه که خودش تصمیم میگیره،
97
00:08:30,718 --> 00:08:33,304
با کمترین دخالتِ آدمیزاد، یا اصلاً بدون دخالت.
98
00:08:33,387 --> 00:08:37,558
یعنی یه ظرفیت مستقل داره و خودش رو هدایت میکنه.
99
00:08:38,434 --> 00:08:41,604
و اینکه بتونه آدم بکشه یا نه، فقط به این بستگی داره که مسلح باشه یا نه.
100
00:08:43,314 --> 00:08:47,026
وقتی توی کلِ سیستمت، مدام داری به سمتِ خودگردانیِ بیشتر میری،
101
00:08:47,109 --> 00:08:49,779
همه چی با سرعت سرسامآوری شروع میکنه به حرکت.
102
00:08:51,989 --> 00:08:56,869
و وقتی سرعت عملت از دشمنات بیشتر باشه،
103
00:08:57,453 --> 00:09:01,165
این توی میدون جنگ یه امتیازِ فوقالعادهست.
104
00:09:03,960 --> 00:09:06,254
چیزی که ما توی بحثِ سیستمهای خودگردان روش تمرکز میکنیم،
105
00:09:07,255 --> 00:09:09,882
سیستمهای هوشِ بهشدت جونسخته.
106
00:09:12,051 --> 00:09:15,304
سیستمهایی که میتونن محیط رو تحلیل کنن و بهش واکنش نشون بدن،
107
00:09:15,805 --> 00:09:19,642
و خودشون تصمیم بگیرن که چطوری توی اون فضا مانور بدن.
108
00:09:24,981 --> 00:09:29,151
این ساختمونی که امروز توش هستیم، اولش یه استودیوی فیلمسازی بود،
109
00:09:29,235 --> 00:09:30,611
که بعداً تغییرش دادن،
110
00:09:30,695 --> 00:09:34,156
تا بتونن توش محیطهای تمرین نظامیِ واقعی بسازن.
111
00:09:39,495 --> 00:09:43,291
ما اینجاییم تا خلبانِ هوش مصنوعیمون رو تست کنیم.
112
00:09:44,625 --> 00:09:49,297
مأموریت، شناساییِ تهدیدهاست؛ بحثِ پاکسازیِ نیروهاست.
113
00:09:49,380 --> 00:09:52,800
خودش میتونه تصمیم بگیره که چطوری با اون مشکل روبرو بشه.
114
00:09:55,428 --> 00:09:59,390
ما به این میگیم «قیف مرگ». مجبوری از توی یه درگاه رد بشی.
115
00:10:01,726 --> 00:10:03,311
دقیقاً همونجایی که از همیشه آسیبپذیرتریم.
116
00:10:03,811 --> 00:10:05,146
این یکی بهتر به نظر میرسه.
117
00:10:07,106 --> 00:10:10,151
سیستمِ نووا بهمون میگه که پشت اون در یه تیرانداز کمین کرده،
118
00:10:10,818 --> 00:10:12,653
یا یه خانواده اون پشت پناه گرفتن؟
119
00:10:15,114 --> 00:10:18,451
اینطوری میتونیم بهتر تصمیم بگیریم و جونِ آدمها رو به خطر نندازیم.
120
00:10:57,114 --> 00:10:59,367
ما از سنسورهای بینایی استفاده میکنیم،
121
00:10:59,450 --> 00:11:03,162
تا بتونیم درک درستی از وضعیتِ محیط پیدا کنیم.
122
00:11:04,997 --> 00:11:06,415
یه ساختمون چند طبقهست.
123
00:11:07,333 --> 00:11:08,334
اینم از نقشه.
124
00:11:08,417 --> 00:11:11,671
وقتی داشتم اونجا رو میگشتم، اینا چیزاییه که دیدم و اینم موقعیتشونه.
125
00:11:19,929 --> 00:11:22,098
آدمشناس؛ دمش گرم، چه عالی.
126
00:11:23,891 --> 00:11:27,436
یکی دیگه از حسگرهای روی «نُوا»، اسکنر حرارتیه.
127
00:11:27,520 --> 00:11:30,690
اگه دماش ۳۷ درجه باشه، احتمالاً یه آدمیزاده.
128
00:11:32,358 --> 00:11:35,444
همه تهدید حساب میشن، مگه اینکه خلافش ثابت بشه.
129
00:11:38,906 --> 00:11:43,244
بحث سر اینه که ابهامِ توی جنگ رو از بین ببریم تا بشه تصمیمات بهتری گرفت.
130
00:11:44,704 --> 00:11:46,539
و وقتی به آینده نگاه میکنیم،
131
00:11:47,039 --> 00:11:50,710
داریم کار رو گسترش میدیم تا گروههایی از هواپیماهای خودران بسازیم.
132
00:11:53,754 --> 00:11:55,631
توی ماشینهای خودران،
133
00:11:55,715 --> 00:11:57,466
در نهایت طرف بهش میگه:
134
00:11:57,550 --> 00:12:00,386
«میخوام از نقطه الف بری به نقطه ب.»
135
00:12:02,972 --> 00:12:06,475
از سیستمهای ما خواسته نمیشه که فقط از نقطه الف برن به ب،
136
00:12:06,559 --> 00:12:08,477
بلکه باید یه هدف رو عملی کنن.
137
00:12:10,312 --> 00:12:13,190
بیشتر شبیه اینه که بگی: «شیر لازم دارم.»
138
00:12:13,274 --> 00:12:17,486
اونوقت ربات باید خودش بفهمه کدوم سوپرمارکت بره،
139
00:12:17,570 --> 00:12:20,239
شیر رو تهیه کنه و بعد بیارتش.
140
00:12:20,740 --> 00:12:22,074
و حتی فراتر از این،
141
00:12:22,158 --> 00:12:27,037
شاید درستترش این باشه که بگی: «یخچال رو همیشه پر نگه دار.»
142
00:12:27,538 --> 00:12:29,457
پس این یه سطح از هوشمندی محسوب میشه،
143
00:12:29,540 --> 00:12:32,168
از این نظر که بفهمیم چی لازم داریم و چطوری باید انجامش بدیم.
144
00:12:32,251 --> 00:12:34,253
و اگه چالشی یا مشکلی پیش بیاد،
145
00:12:34,336 --> 00:12:37,381
یا مسئلهای ایجاد بشه، خودش بفهمه چطوری مهارش کنه.
146
00:12:40,801 --> 00:12:45,431
وقتی تصمیم گرفتم از نیروی دریایی بیام بیرون، با خودم گفتم:
147
00:12:45,514 --> 00:12:47,558
«خب، حالا قدم بعدی چیه؟»
148
00:12:49,143 --> 00:12:52,021
من با اینترنت بزرگ شدم و دیدم به کجا رسید.
149
00:12:53,189 --> 00:12:55,608
و بخشی از نتیجهای که بهش رسیده بودم این بود که...
150
00:12:56,108 --> 00:12:58,861
هوش مصنوعی در سال ۲۰۱۵
151
00:12:58,944 --> 00:13:02,907
واقعاً همون جایی بود که اینترنت تو سال ۱۹۹۱ قرار داشت.
152
00:13:04,033 --> 00:13:06,285
و هوش مصنوعی آماده بود که بترکونه
153
00:13:06,368 --> 00:13:09,747
و تبدیل بشه به یکی از قدرتمندترین تکنولوژیهای کل دنیا.
154
00:13:11,791 --> 00:13:16,212
هر روز که باهاش سر و کله میزنم، دارم میبینم که چقدر داره پیشرفت میکنه.
155
00:13:19,048 --> 00:13:22,051
اما واسه خیلیا، وقتی اسم «هوش مصنوعی» میاد،
156
00:13:22,551 --> 00:13:25,221
ذهنشون سریع میره سمت هالیوود.
157
00:13:28,057 --> 00:13:29,975
پایه ای یه بازی بکنیم؟
158
00:13:30,059 --> 00:13:35,314
نظرت در مورد یه جنگ هستهای جهانی چیه؟
159
00:13:35,898 --> 00:13:36,816
بسیار خب.
160
00:13:38,317 --> 00:13:40,861
کلاً مردم وقتی به هوش مصنوعی فکر میکنن،
161
00:13:40,945 --> 00:13:44,824
ممکنه یاد «ترمیناتور» بیفتن، یا «من، ربات».
162
00:13:45,574 --> 00:13:46,700
غیرفعال شو.
163
00:13:46,784 --> 00:13:48,160
من اصلاً چیام؟
164
00:13:48,244 --> 00:13:49,620
یا فیلم «ماتریکس».
165
00:13:51,080 --> 00:13:53,749
با توجه به چیزایی که تو فیلمای علمیتخیلی میبینی،
166
00:13:53,833 --> 00:13:57,878
از کجا میدونی من آدمم؟ شاید فقط یه هوش مصنوعی ساختهی کامپیوتر باشم.
167
00:13:58,379 --> 00:14:02,132
رپلیکنتها هم مثل بقیه ماشینان. یا مفیدن یا یه خطر جدی.
168
00:14:02,675 --> 00:14:06,095
ولی کلی هوش مصنوعیِ بدویتر وجود داره،
169
00:14:06,178 --> 00:14:08,097
که قراره حسابی زندگیمون رو تکون بدن،
170
00:14:08,180 --> 00:14:11,851
خیلی قبل از اینکه به مرحلهی رباتهای متفکر و سخنگو برسیم.
171
00:14:12,643 --> 00:14:15,771
رباتها همینجان. رباتها دارن تصمیم میگیرن.
172
00:14:15,855 --> 00:14:18,816
انقلاب رباتها شروع شده،
173
00:14:18,899 --> 00:14:22,319
فقط قضیه اینه که اصلاً شبیه اون چیزی که بقیه فکر میکردن نیست.
174
00:14:23,320 --> 00:14:25,489
ترمیناتور یه واحد نفوذیه.
175
00:14:25,573 --> 00:14:26,740
نصفش آدمه، نصفش ماشین.
176
00:14:27,950 --> 00:14:31,370
بحث یه ربات آدمکش مدلِ ترمیناتور نیست.
177
00:14:31,871 --> 00:14:35,958
داریم درباره هوش مصنوعیای حرف میزنیم که میتونه بعضی کارهای آدمیزاد رو انجام بده.
178
00:14:36,041 --> 00:14:39,879
اما نگرانی اینجاست که اصلاً میشه به این سیستمها اعتماد کرد یا نه.
179
00:14:40,462 --> 00:14:45,426
جزئیات جدید از تصادف دیشبِ شاسیبلندِ خودرانِ اوبر.
180
00:14:45,509 --> 00:14:48,762
این شرکت یه چتباتِ مبتنی بر هوش مصنوعی ساخته.
181
00:14:48,846 --> 00:14:51,181
لحنش یه جورایی نژادپرستانه شد...
182
00:14:51,265 --> 00:14:55,394
بیستوشش تا از قانونگذارهای ایالتی رو به اشتباه تبهکار تشخیص دادن.
183
00:14:57,438 --> 00:15:02,026
مسئله اینه که آیا از پسِ پیچیدگیهای دنیای واقعی برمیان یا نه.
184
00:15:22,212 --> 00:15:24,423
دنیای فیزیکی واقعاً قاراشمیش و بینظمه.
185
00:15:25,174 --> 00:15:27,426
خیلی چیزها هست که ما ازشون سر در نمیاریم،
186
00:15:27,968 --> 00:15:30,763
واسه همین آموزش دادن به سیستمهای هوش مصنوعی خیلی سختتر میشه.
187
00:15:33,098 --> 00:15:36,977
اینجاست که سیستمهای یادگیری ماشین وارد میدون شدن.
188
00:15:38,520 --> 00:15:41,440
یادگیری ماشین یه پیشرفتِ غولآسا بوده،
189
00:15:42,024 --> 00:15:45,611
چون دیگه لازم نیست همهچیز رو به کامپیوترها یاد بدیم.
190
00:15:47,905 --> 00:15:52,409
در واقع میلیونها قطعه داده رو میریزی تو شکمِ کامپیوتر،
191
00:15:52,493 --> 00:15:54,453
و ماشین خودش شروع میکنه به یاد گرفتن.
192
00:15:55,245 --> 00:15:57,289
و این رو میشه روی هر چیزی پیاده کرد.
193
00:16:00,250 --> 00:16:02,962
تو پروژهی سگِ رباتیکمون، داریم سعی میکنیم نشون بدیم...
194
00:16:03,045 --> 00:16:09,009
که سگِ ما میتونه تو کلی زمینهای مختلف و ناهموار راه بره.
195
00:16:10,052 --> 00:16:14,098
میلیاردها سال طول کشیده تا تکامل، راه رفتن رو یادِ آدمیزاد بده،
196
00:16:14,932 --> 00:16:20,688
اما واسه هماهنگ شدن با این زمینهای مختلف، هوشِ زیادی لازمه.
197
00:16:21,939 --> 00:16:24,316
سوالی که درباره سیستمهای رباتیک باقی میمونه اینه که،
198
00:16:24,400 --> 00:16:27,069
آیا اونا هم میتونن مثل حیوونها و آدمها خودشون رو با شرایط وفق بدن؟
199
00:16:35,953 --> 00:16:37,413
با یادگیری ماشین،
200
00:16:37,496 --> 00:16:40,582
ما کلی داده از توی محیط شبیهسازی جمع میکنیم.
201
00:16:42,668 --> 00:16:45,838
شبیهسازی یعنی کپی برابر اصلِ دیجیتالیِ واقعیت.
202
00:16:46,588 --> 00:16:52,052
میتونیم نسخههای بیشماری از اون واقعیت رو روی کامپیوترهای مختلف اجرا کنیم.
203
00:16:53,178 --> 00:16:56,974
هزاران حرکت و واکنش رو توی محیط شبیهسازی تست میکنه.
204
00:16:58,892 --> 00:17:02,229
سطحی که باهاش روبرو میشن، میزان لغزندگیش متفاوته.
205
00:17:02,312 --> 00:17:03,856
سفتی و نرمیش هم با هم فرق داره.
206
00:17:04,898 --> 00:17:08,318
ما کل تجربهی این هزاران ربات رو...
207
00:17:08,402 --> 00:17:13,282
از توی شبیهساز بیرون میکشیم و میریزیم تو شکمِ یه سیستم رباتیک واقعی.
208
00:17:15,492 --> 00:17:20,039
تستی که امروز میزنیم واسه اینه که ببینیم میتونه خودش رو با زمینهای جدید وفق بده یا نه.
209
00:17:53,322 --> 00:17:55,491
وقتی ربات داشت از روی فوم رد میشد،
210
00:17:55,574 --> 00:17:58,577
پاهاش رو محکم روی زمین میکوبید.
211
00:17:59,369 --> 00:18:02,206
اما وقتی اومد روی این سطح پلیمری،
212
00:18:03,248 --> 00:18:06,460
داشت حرکاتش رو تنظیم میکرد که یه وقت سُر نخوره.
213
00:18:08,670 --> 00:18:10,672
اونجاست که یهو دوزاریت میافته،
214
00:18:10,756 --> 00:18:14,051
«این همون چیزیه که یادگیری ماشین رو میکنه.»
215
00:18:41,161 --> 00:18:44,123
فکر میکنیم این سگِ رباتیک میتونه حسابی به کار بیاد،
216
00:18:44,206 --> 00:18:46,166
مخصوصاً تو عملیاتهای امداد و نجات،
217
00:18:46,250 --> 00:18:49,670
اونجا که مجبوری از هزار جور زمینِ دربوداغون رد بشی.
218
00:18:52,631 --> 00:18:57,427
یا فرستادنِ این سگها واسه پاییدنِ مناطق بدقلق و خشن.
219
00:19:15,696 --> 00:19:19,575
اما اکثر تکنولوژیها به یه چالش گره میخورن؛
220
00:19:19,658 --> 00:19:22,369
اینکه هم میتونن خیر برسونن، هم میتونن شر به پا کنن.
221
00:19:24,079 --> 00:19:27,875
مثلاً، میتونیم از انرژی هستهای واسه تولید برق استفاده کنیم...
222
00:19:30,419 --> 00:19:33,797
اما از اون طرف میتونیم بمب اتم هم بسازیم که فاتحهی همهچی رو میخونه.
223
00:19:35,090 --> 00:19:38,468
به این میگن مشکلِ «استفادهی دوگانه».
224
00:19:39,052 --> 00:19:40,929
آتیش هم دوگانهست؛ هم گرم میکنه، هم میسوزونه.
225
00:19:41,722 --> 00:19:44,308
هوشِ آدمیزاد هم همینه، دوگانهست.
226
00:19:44,391 --> 00:19:48,645
خب، دیگه گفتن نداره، هوش مصنوعی هم تیغِ دولبهست.
227
00:19:49,354 --> 00:19:53,984
خیلی مهمه که ببینیم هوش مصنوعی کجا و چطور قراره استفاده بشه،
228
00:19:54,693 --> 00:19:59,114
چون آره، داشتنِ یه رباتِ امداد و نجات خیلی عالیه،
229
00:19:59,198 --> 00:20:02,284
که بتونه بعدِ بهمن، آدمها رو پیدا کنه،
230
00:20:02,868 --> 00:20:05,871
اما همون ربات میتونه تبدیل به یه سلاح بشه.
231
00:20:15,088 --> 00:20:18,675
وقتی میبینی شرکتها از رباتیک استفاده میکنن
232
00:20:18,759 --> 00:20:21,094
تا روشون اسلحه سوار کنن،
233
00:20:21,178 --> 00:20:22,930
یه بخشی از وجودت آتیش میگیره.
234
00:20:23,931 --> 00:20:28,435
و یه بخشیش هم به خاطر اینه که میفهمی وقتی تکنولوژیمون رو رو میکنیم،
235
00:20:28,518 --> 00:20:30,103
نتیجهش میشه همین.
236
00:20:31,021 --> 00:20:34,441
این یه تکنولوژیایه که واقعاً همهچی رو عوض میکنه.
237
00:20:36,235 --> 00:20:38,028
اینها سیستمهای تسلیحاتیای هستن
238
00:20:38,111 --> 00:20:43,617
که میتونن امنیت و ایمنیِ ما رو کلاً دگرگون کنن.
239
00:20:46,161 --> 00:20:51,500
تا الان، هنوز مطمئن نیستیم که ماشینها واقعاً بتونن
240
00:20:51,583 --> 00:20:54,962
فرقِ بین غیرنظامی و جنگجو رو بفهمن.
241
00:21:01,802 --> 00:21:05,597
اوایل جنگ افغانستان، من عضو یه تیم تکتیرانداز رنجر ارتش بودم
242
00:21:05,681 --> 00:21:08,016
که دنبال جنگجوهای دشمن میگشتیم که داشتن از مرز رد میشدن.
243
00:21:09,685 --> 00:21:12,521
اونها یه دختربچه رو فرستادن تا موقعیت ما رو شناسایی کنه.
244
00:21:13,939 --> 00:21:17,067
چیزی که حتی یه لحظه هم به فکر کسی نرسید، شلیک کردن به این دختر بود.
245
00:21:19,695 --> 00:21:22,864
طبق قوانین جنگ، این کار قانونی بود.
246
00:21:24,950 --> 00:21:27,369
اونها برای جنگجوهای دشمن هیچ ردهی سنیای تعیین نمیکنن.
247
00:21:29,079 --> 00:21:33,417
اگه یه ربات بسازی که مو به مو از قوانین جنگ اطاعت کنه،
248
00:21:33,500 --> 00:21:35,335
اون به این دختربچه شلیک میکرد.
249
00:21:36,420 --> 00:21:41,091
یه ربات چطوری میخواد فرقِ بین چیزی که قانونیه و چیزی که درسته رو بفهمه؟
250
00:21:43,385 --> 00:21:46,054
وقتی حرف از جنگِ پهپادهای خودران میشه،
251
00:21:46,138 --> 00:21:49,933
میخوان جلوی آسیبی که به سربازای آمریکایی وارد میشه رو بگیرن،
252
00:21:50,017 --> 00:21:51,935
و اون فشارِ روانیای که روشونه،
253
00:21:52,019 --> 00:21:57,149
اِ، اما تهش این افزایشِ تلفاتِ غیرنظامی، دامنِ افغانها رو میگیره،
254
00:21:57,232 --> 00:21:58,775
و عراقیها و سومالیاییها رو.
255
00:22:09,619 --> 00:22:14,416
واقعاً دلم میخواد از اونایی که طرفدارِ سپردنِ پهپادها به هوش مصنوعی هستن بپرسم:
256
00:22:15,375 --> 00:22:18,211
«اگه دهاتِ خودتون هدفِ این دم و دستگاه بود چی؟»
257
00:22:23,550 --> 00:22:25,635
هوش مصنوعی یه تیغِ دولبهست.
258
00:22:26,595 --> 00:22:30,724
هم میشه ازش استفادهی خوب کرد، که ما هم معمولاً همین کارو میکنیم،
259
00:22:31,558 --> 00:22:33,477
ولی با یه تغییرِ کوچیک،
260
00:22:34,561 --> 00:22:38,023
این تکنولوژی میتونه تبدیل بشه به یه چیزِ واقعاً مرگبار.
261
00:22:47,032 --> 00:22:48,533
من متخصص داروسازی بالینیام.
262
00:22:49,618 --> 00:22:50,994
یه تیم دارم
263
00:22:51,078 --> 00:22:54,247
که دارن با هوش مصنوعی روی داروهایی کار میکنن
264
00:22:54,331 --> 00:22:57,751
که بیماریهای نادیده گرفته شده رو درمون کنن.
265
00:22:59,711 --> 00:23:04,132
قدیما واسه کشف دارو، یه مولکول که از قبل بود رو برمیداشتی
266
00:23:04,216 --> 00:23:06,885
و یه ذره دستکاریش میکردی تا به یه داروی جدید برسی.
267
00:23:08,261 --> 00:23:13,350
اما حالا هوش مصنوعیای ساختیم که میلیونها ایده میریزه جلومون،
268
00:23:13,892 --> 00:23:15,227
میلیونها مولکول،
269
00:23:16,186 --> 00:23:19,231
و این کلی راهِ جدید باز میکنه
270
00:23:19,314 --> 00:23:23,151
واسه درمونِ دردایی که قبلاً هیچ چارهای واسشون نداشتیم.
271
00:23:25,153 --> 00:23:28,448
ولی یه رویِ تاریکی هم داره که اصلاً فکرش رو هم نمیکردم
272
00:23:28,532 --> 00:23:29,741
که پام بهش باز بشه.
273
00:23:33,161 --> 00:23:35,872
کلِ این داستان از وقتی شروع شد که دعوت شدم
274
00:23:35,956 --> 00:23:40,043
به یه سازمان تو سوئیس به اسم آزمایشگاه «اشپیتز»
275
00:23:40,544 --> 00:23:44,423
تا دربارهی سوءاستفادههای احتمالی از هوش مصنوعی حرف بزنم.
276
00:23:48,343 --> 00:23:51,221
«شان» همین الان یه ایمیل برام فرستاد که توش چندتا ایده بود،
277
00:23:51,304 --> 00:23:55,308
درباره اینکه چطوری میتونیم از هوش مصنوعی خودمون سوءاستفاده کنیم.
278
00:23:56,059 --> 00:24:00,355
و بهجای اینکه از مدلمون بخوایم مولکولهایی شبیه دارو بسازه،
279
00:24:00,439 --> 00:24:02,274
که بشه باهاشون مریضیها رو درمون کرد،
280
00:24:02,774 --> 00:24:06,403
گفتیم ببینیم میتونیم سمیترین مولکولهای ممکن رو ردیف کنیم یا نه.
281
00:24:10,198 --> 00:24:13,243
میخواستم ببینم اصلاً میشه با تکنولوژی هوش مصنوعی،
282
00:24:13,326 --> 00:24:15,203
مولکولهایی طراحی کرد که باعث مرگ میشن؟
283
00:24:17,414 --> 00:24:20,083
راستش رو بخوای، فکر میکردیم تیرمون به سنگ میخوره،
284
00:24:20,167 --> 00:24:24,504
چون کل کاری که کردیم این بود که فقط اون صفر رو تبدیل به یک کردیم.
285
00:24:26,715 --> 00:24:30,385
و با برعکس کردنش، بهجای اینکه از سمی بودن فاصله بگیریم،
286
00:24:30,469 --> 00:24:32,220
صاف رفتیم تو دلِ سمیت.
287
00:24:32,721 --> 00:24:33,555
همین و بس.
288
00:24:37,517 --> 00:24:40,729
وقتی من خونه بودم، کامپیوتر داشت سگدو میزد.
289
00:24:41,521 --> 00:24:44,816
یعنی داشت پشتسرهم هزاران مولکول تولید میکرد،
290
00:24:45,650 --> 00:24:49,529
و ما هم لازم نبود هیچ غلطی بکنیم جز اینکه دکمه شروع رو بزنیم.
291
00:24:54,493 --> 00:24:58,330
صبح روز بعد، یه فایل روی کامپیوترم بود،
292
00:24:59,080 --> 00:25:03,376
که توش حدود ۴۰ هزارتا مولکول بود،
293
00:25:03,460 --> 00:25:05,253
که پتانسیل این رو داشتن که
294
00:25:05,337 --> 00:25:08,882
جزء سمیترین مولکولهایی باشن که بشر تا حالا به خودش دیده.
295
00:25:10,217 --> 00:25:12,761
موهای تنم سیخ شد.
296
00:25:13,386 --> 00:25:14,554
مخم سوت کشید.
297
00:25:15,388 --> 00:25:19,017
کامپیوتر دهها هزار ایده ردیف کرده بود
298
00:25:19,100 --> 00:25:20,685
واسه سلاحهای شیمیایی جدید.
299
00:25:21,645 --> 00:25:26,274
معلومه که مولکولهایی داشتیم که کپِ «وی-ایکس» یا از مشتقاتش بودن،
300
00:25:26,775 --> 00:25:27,775
توی اون مجموعه دادهها.
301
00:25:28,360 --> 00:25:31,363
ویاکس یکی از مهلکترین سلاحهای شیمیایی دنیاست.
302
00:25:31,863 --> 00:25:33,573
گزارشهای تازهای از سمت پلیس رسیده،
303
00:25:33,657 --> 00:25:37,786
که نشون میده اون زنهایی که توی اون ترور فرودگاهی به کیم جونگ-نام حمله کردن،
304
00:25:37,869 --> 00:25:41,248
از یه عامل اعصاب کشنده به اسم ویاکس استفاده کرده بودن.
305
00:25:41,748 --> 00:25:44,417
این ماده باعث مرگ از طریق خفگی میشه.
306
00:25:45,043 --> 00:25:47,629
این یه مولکول فوقالعاده قویه،
307
00:25:47,712 --> 00:25:52,092
و پیشبینی شده بود که اکثر این مولکولها حتی از ویاکس هم مرگبارتر باشن.
308
00:25:53,301 --> 00:25:56,972
تا جایی که میدونیم، خیلیهاشون تا حالا اصلاً دیده نشده بودن.
309
00:25:57,472 --> 00:26:00,767
واسه همین وقتی من و شان فهمیدیم قضیه چیه، با خودمون گفتیم:
310
00:26:00,850 --> 00:26:02,727
«اوه، چه غلطی کردیم؟»
311
00:26:04,771 --> 00:26:09,192
سریع فهمیدم که درِ جعبهی پاندورا رو باز کردیم،
312
00:26:09,901 --> 00:26:12,696
و گفتم: «بسه. دیگه هیچ کاری نکن. کارمون تمومه.»
313
00:26:13,905 --> 00:26:17,158
«فقط اسلایدهایی که واسه ارائه لازم دارم رو برام ردیف کن.»
314
00:26:19,202 --> 00:26:20,704
وقتی داشتیم این آزمایش رو انجام میدادیم،
315
00:26:20,787 --> 00:26:23,873
با خودم میگفتم: «مگه تهش چی میخواد بشه؟ بدتر از این که نداریم.»
316
00:26:26,251 --> 00:26:30,255
اما الان میفهمم که خیلی سادهلوح بودیم. واقعاً خریت کردیم که اون کار رو انجام دادیم.
317
00:26:33,466 --> 00:26:36,928
چیزی که بیشتر از همه منو به وحشت میندازه اینه که هر کسی میتونه همون کاری رو بکنه که ما کردیم.
318
00:26:38,930 --> 00:26:40,765
فقط کافیه یه کلید رو فشار بدی.
319
00:26:42,934 --> 00:26:46,187
چطور میتونیم این تکنولوژی رو مهار کنیم، قبل از اینکه...
320
00:26:46,271 --> 00:26:50,942
احتمالاً برای یه کار کاملاً ویرانگر ازش استفاده بشه؟
321
00:26:55,780 --> 00:27:00,285
اصلِ کلامِ بحثهایی که دور و بر هوش مصنوعی میچرخه،
322
00:27:00,368 --> 00:27:03,538
و اینکه چطور میخوایم توی جامعه ازش استفاده کنیم،
323
00:27:04,289 --> 00:27:08,835
یه جور مسابقه است بین قدرتی که باهاش تکنولوژی رو توسعه میدیم،
324
00:27:08,918 --> 00:27:11,379
و عقل و درایتی که باید برای کنترل کردنش داشته باشیم.
325
00:27:13,340 --> 00:27:16,926
پیامدهای اخلاقی و انسانی کاملاً واضحی هم این وسط وجود داره.
326
00:27:17,010 --> 00:27:20,138
از همون چیزی که توی گوشیهای هوشمندمون استفاده میشه
327
00:27:20,221 --> 00:27:23,433
که بهش اختیارِ گرفتنِ جونِ یه آدم رو بدن.
328
00:27:25,727 --> 00:27:31,191
من با مؤسسه «آیندهی زندگی» همکاری میکنم، یه انجمن از دانشمندای مبارز.
329
00:27:31,733 --> 00:27:33,443
در کل داریم سعی میکنیم نشون بدیم
330
00:27:33,526 --> 00:27:38,698
که سرعت گرفتن و بالا رفتنِ اتوماسیون، یه رویِ دیگهای هم داره.
331
00:27:38,782 --> 00:27:42,619
اما داریم تلاش میکنیم مطمئن بشیم تکنولوژیهایی که میسازیم
332
00:27:42,702 --> 00:27:45,038
جوری استفاده بشن که ایمن و اخلاقی باشن.
333
00:27:46,247 --> 00:27:49,959
بیاید درباره قوانین درگیری با هم گپ بزنیم،
334
00:27:50,043 --> 00:27:54,005
و ضوابطِ استفاده از هوش مصنوعی توی تمام سیستمهای تسلیحاتیمون.
335
00:27:54,798 --> 00:27:59,135
چون الان داریم میبینیم تکنولوژیهایی وارد میدون نبرد شدن
336
00:27:59,219 --> 00:28:01,680
که میتونن به صورت خودمختار آدم بکشن.
337
00:28:10,230 --> 00:28:15,110
سال ۲۰۲۱، سازمان ملل گزارشی درباره احتمال استفاده
338
00:28:15,193 --> 00:28:19,364
از یه سلاح مرگبارِ خودمختار توی میدون جنگ لیبی منتشر کرد.
339
00:28:20,073 --> 00:28:23,910
یه هیئت از سازمان ملل گفت پهپادی که پارسال توی جنگ داخلی لیبی پرواز میکرد
340
00:28:23,993 --> 00:28:27,288
جوری برنامهریزی شده بود که خودش به هدفها حمله کنه.
341
00:28:28,289 --> 00:28:31,209
اگه گزارش سازمان ملل درست باشه،
342
00:28:31,292 --> 00:28:34,963
این یه نقطه عطف برای بشریت به حساب میاد.
343
00:28:35,046 --> 00:28:37,090
چون نشوندهنده موردیه
344
00:28:37,173 --> 00:28:42,137
که توش یه هوش مصنوعی تصمیم به کشتن گرفت، نه یه انسان.
345
00:28:49,686 --> 00:28:51,688
داری میبینی که سلاحهای خودمختار پیشرفته
346
00:28:51,771 --> 00:28:55,150
کمکم دارن توی نقاط مختلف دنیا به کار گرفته میشن.
347
00:28:56,276 --> 00:28:58,278
گزارشهایی هم از اسرائیل رسیده بود.
348
00:29:00,280 --> 00:29:05,702
آذربایجان از سامانههای خودمختار برای زدنِ پدافند هوایی ارمنستان استفاده کرد.
349
00:29:07,370 --> 00:29:09,998
میتونه ساعتها توی میدون نبرد چرخ بزنه،
350
00:29:10,081 --> 00:29:12,500
و خودش دنبال سوژه بگرده تا بهش بکوبه.
351
00:29:12,584 --> 00:29:16,087
بعدشم بدون هیچ دخالتی از طرف آدمیزاد، میکوبه بهشون.
352
00:29:16,755 --> 00:29:18,298
این اواخر دیدیم که...
353
00:29:18,381 --> 00:29:21,760
یه سری ویدیو از اوکراین پخش شده.
354
00:29:23,094 --> 00:29:26,890
معلوم نیست موقع عملیات، رو چه حالتی تنظیم شده بودن.
355
00:29:26,973 --> 00:29:30,393
آیا یه آدم پشت کار بوده و هدفا رو انتخاب میکرده،
356
00:29:30,477 --> 00:29:32,729
یا خودِ ماشین داشته این کارو انجام میداده؟
357
00:29:32,812 --> 00:29:36,524
ولی قطعاً یه زمانی میرسه،
358
00:29:36,608 --> 00:29:40,195
حالا چه تو لیبی و اوکراین اتفاق افتاده باشه چه جای دیگه،
359
00:29:40,278 --> 00:29:44,449
که ماشین خودش تصمیم میگیره کی رو تو میدونِ جنگ نفله کنه.
360
00:29:47,035 --> 00:29:50,997
اینکه ماشینها قدرتِ مرگبار علیه آدما به کار ببرن،
361
00:29:51,080 --> 00:29:53,374
اونم بدونِ دخالتِ بشر،
362
00:29:53,458 --> 00:29:57,337
از نظر سیاسی غیرقابل قبوله و از نظر اخلاقی هم تهوعآوره.
363
00:29:59,130 --> 00:30:01,299
اینکه آیا جامعه جهانی...
364
00:30:01,382 --> 00:30:05,011
حریفِ این چالشها میشه یا نه،
365
00:30:05,094 --> 00:30:06,888
یه علامت سوال بزرگه.
366
00:30:08,932 --> 00:30:12,685
اگه به آینده نگاه کنیم، حتی همین چند سال دیگه رو،
367
00:30:12,769 --> 00:30:15,730
چیزی که پیش رومونه خیلی ترسناکه،
368
00:30:16,564 --> 00:30:20,485
با توجه به حجم سرمایه و نیروی انسانیای که...
369
00:30:20,568 --> 00:30:23,404
خرجِ قدرتمندتر کردنِ هوش مصنوعی میشه،
370
00:30:23,488 --> 00:30:26,032
و استفاده از اون تو این همه زمینهی مختلف،
371
00:30:26,115 --> 00:30:26,950
واقعاً سرسامآوره.
372
00:30:39,254 --> 00:30:41,214
ای بابا، این یارو رو نگاه.
373
00:30:41,756 --> 00:30:43,424
خودش میدونه که شانسی برای برد نداره.
374
00:30:44,259 --> 00:30:46,678
اوه...
375
00:30:46,761 --> 00:30:51,099
وقتی میبینم هوش مصنوعی از پسِ مشکلاتِ مختلف برمیآد، بهم انگیزه میده.
376
00:30:51,683 --> 00:30:53,977
میخوام یه حرکتِ همهیاهیچ بزنم.
377
00:30:54,477 --> 00:30:59,524
و میتونی همون تاکتیکها، فنون و روشها رو روی هواپیماهای واقعی هم پیاده کنی.
378
00:31:01,401 --> 00:31:04,404
- بازیِ خوبی بود.
- ایول، بازیِ خوبی بود.
379
00:31:08,658 --> 00:31:09,909
واسم عجیبه
380
00:31:09,993 --> 00:31:14,122
که مردم هنوزم میان و درباره ناتوانیهای هوش مصنوعی حرف میزنن. مگه نه؟
381
00:31:14,205 --> 00:31:17,166
«اوه، عمراً بتونه قهرمان شطرنج جهان رو ببره.»
382
00:31:20,211 --> 00:31:22,672
یه کامپیوتر آیبیام ورق رو برگردوند
383
00:31:22,755 --> 00:31:25,925
توی راند دومِ مسابقهش با قهرمان شطرنج جهان، گری کاسپاروف.
384
00:31:27,093 --> 00:31:30,889
اوه! کاسپاروف بیخیال شد و باخت رو قبول کرد!
385
00:31:31,598 --> 00:31:34,642
وقتی چیزی میبینم که اصلاً تو کتم نمیره و فراتر از درکمه،
386
00:31:34,726 --> 00:31:38,062
میترسم. و اون یه چیزی بود که اصلاً تو مخیلهم نمیگنجید.
387
00:31:39,355 --> 00:31:41,107
بعدش هم مردم میگفتن،
388
00:31:41,190 --> 00:31:44,402
«عمراً بتونه قهرمان جهان رو توی بازیِ 'گو' شکست بده.»
389
00:31:44,485 --> 00:31:50,700
فکر میکنم شهودِ انسانی هنوز خیلی پیشرفتهتر از اون چیزیه که هوش مصنوعی
390
00:31:50,783 --> 00:31:52,827
بخواد به گَردِ پاش برسه.
391
00:31:55,288 --> 00:31:58,416
بازیِ 'گو' یکی از پیچیدهترین بازیهاییه که یه آدم میتونه یاد بگیره،
392
00:31:58,499 --> 00:32:02,211
چون اگه حسابکتاب کنی، تعداد حرکتهای روی صفحه،
393
00:32:02,295 --> 00:32:05,256
از تعداد کلِ اتمهای جهانِ هستی هم بیشتره.
394
00:32:06,799 --> 00:32:08,968
یه تیمی توی گوگل بود به اسم 'دیپمایند'،
395
00:32:09,052 --> 00:32:11,471
و اونا برنامهای به اسم 'آلفاگو' ساختن
396
00:32:11,554 --> 00:32:14,265
تا بتونه بهترین بازیکنای دنیا رو ضربهفنی کنه.
397
00:32:14,349 --> 00:32:16,476
دمش گرم.
398
00:32:16,559 --> 00:32:18,394
تبریک به...
399
00:32:18,478 --> 00:32:19,478
- آلفاگو.
- آلفاگو.
400
00:32:19,520 --> 00:32:22,774
یه برنامه کامپیوتری همین الان یه حرفهایِ دانِ ۹ رو شکست داد.
401
00:32:25,610 --> 00:32:31,532
بعدش دیپمایند «استارکرفت» رو به عنوان چالش بعدی هوش مصنوعیش انتخاب کرد.
402
00:32:33,743 --> 00:32:38,081
«استارکرفت» شاید محبوبترین بازی استراتژیک کل تاریخ باشه.
403
00:32:40,333 --> 00:32:44,712
«آلفااستار» وقتی معروف شد که شروع کرد به شکست دادن قهرمانای جهان.
404
00:32:45,338 --> 00:32:48,800
«آلفااستار» داره «ایمورتال آرک» رو با خاک یکسان میکنه.
405
00:32:48,883 --> 00:32:49,717
میدونی چیه؟
406
00:32:49,801 --> 00:32:52,553
این نبردی نیست که حرفهایها بتونن توش برنده بشن.
407
00:32:53,680 --> 00:32:54,806
یه جورایی مسخرهست.
408
00:32:57,642 --> 00:33:00,895
گیمرهای حرفهای میگن: «من هیچوقت سراغ این تاکتیک نمیرم.»
409
00:33:00,979 --> 00:33:04,816
«عمراً از این استراتژی استفاده نمیکردم. این اصلاً کار آدمیزاد نیست.»
410
00:33:07,151 --> 00:33:10,655
و اونجا بود که، میدونی، انگار دوزاریم افتاد.
411
00:33:13,574 --> 00:33:16,661
فهمیدم که وقتش همین الانه.
412
00:33:17,412 --> 00:33:21,082
یه تکنولوژی مهم و یه فرصت هست که بشه باهاش یه تغییر اساسی ایجاد کرد.
413
00:33:24,502 --> 00:33:29,382
من فقط مشکلاتی رو میشناختم که به عنوان یه «سیل» توی جنگهای تنبهتن باهاشون روبرو شده بودم،
414
00:33:30,383 --> 00:33:34,470
اما یکی از دوستای خوبم که خلبان اف-۱۸ بود بهم گفت:
415
00:33:34,554 --> 00:33:37,724
«ما هم همین مشکل رو تو جمع خلبانهای جنگنده داریم.»
416
00:33:37,807 --> 00:33:39,434
«دارن روی ارتباطات پارازیت میندازن.»
417
00:33:39,517 --> 00:33:42,562
«سایتهای موشکی زمینبههوا همه جا پر شدن...»
418
00:33:42,645 --> 00:33:44,439
«...که باعث میشه عملیات بیش از حد خطرناک بشه.»
419
00:33:47,483 --> 00:33:50,987
تصور کن اگه یه جنگنده داشتیم که توسط یه هوش مصنوعی هدایت میشد.
420
00:33:51,070 --> 00:33:52,739
به مسابقات «آلفاداگفایت» خوش اومدین.
421
00:33:52,822 --> 00:33:56,159
فقط چند دقیقه تا شروع اولین نیمهنهایی فاصله داریم.
422
00:33:56,242 --> 00:33:59,871
«دارپا»، یا همون سازمان پروژههای پژوهشی پیشرفته دفاعی،
423
00:33:59,954 --> 00:34:03,624
«آلفاگو» و «آلفااستار» رو دیده بود،
424
00:34:04,292 --> 00:34:08,171
و اینطوری شد که ایده مسابقات «آلفاداگفایت» جون گرفت.
425
00:34:09,005 --> 00:34:11,466
این دقیقاً همون کاریه که آدم دلش میخواد خلبانای جنگندهاش انجام بدن.
426
00:34:11,549 --> 00:34:13,634
این شبیه یه سگجنگیِ تمامعیار بین آدماست.
427
00:34:15,595 --> 00:34:19,057
سگجنگی یعنی جنگنده به جنگنده بیفتن به جون هم.
428
00:34:19,849 --> 00:34:22,852
میتونی مثل یه مسابقه بوکس تو آسمون بهش نگاه کنی.
429
00:34:23,853 --> 00:34:26,314
احتمالاً ملت فیلم «تاپ گان» رو دیدن.
430
00:34:26,397 --> 00:34:30,068
- میتونیم از دست اینا جیم بزنیم؟
- از دست موشکها و تیربارهاشون نه.
431
00:34:30,151 --> 00:34:31,277
این یه سگجنگیه.
432
00:34:35,531 --> 00:34:39,410
اوستا شدن تو این نبردا ممکنه هشت تا ده سال طول بکشه.
433
00:34:42,288 --> 00:34:46,209
ساختن هوش مصنوعی برای این کار، یه چالشِ سگی و پیچیدهست.
434
00:34:54,092 --> 00:34:58,679
روشهای قبلی برای خودکارسازیِ این نبردا معمولاً دوزاری و شکننده بودن.
435
00:34:59,222 --> 00:35:03,017
فهمیدیم یادگیری ماشین احتمالاً تنها راه حل این مصیبت باشه.
436
00:35:04,477 --> 00:35:08,189
اولش هوش مصنوعی از دنیایی که توش پرت شده بود، هیچی حالیش نبود.
437
00:35:08,272 --> 00:35:11,025
نمیدونست داره پرواز میکنه یا اصلاً سگجنگی یعنی چی.
438
00:35:11,109 --> 00:35:12,735
نمیفهمید اف-۱۶ اصلاً چیه.
439
00:35:13,236 --> 00:35:15,988
تنها چیزی که میدونست، کارهای دمِ دستش بود که میتونست انجام بده،
440
00:35:16,072 --> 00:35:18,407
و شروع کرد به امتحان کردنِ گترهای و شانسیِ اون کارها.
441
00:35:19,325 --> 00:35:23,204
هواپیمای آبی فقط یه مدتِ خیلی کوتاهی آموزش دیده.
442
00:35:23,287 --> 00:35:25,832
میبینید که داره واسه خودش تلوتلو میخوره،
443
00:35:25,915 --> 00:35:30,545
آره، خیلی قاتیپاتی پرواز میکنه، کلاً داره از حریفش دور میشه.
444
00:35:31,587 --> 00:35:34,257
همینطور که نبرد پیش میره، میبینیم که آبی داره شروع میکنه
445
00:35:34,340 --> 00:35:36,134
تا نقشهشو اینجا پیاده کنه.
446
00:35:36,759 --> 00:35:38,636
الان دیگه قشنگ تو موقعیتِ شلیکه.
447
00:35:39,178 --> 00:35:41,305
هر از گاهی، الگوریتمِ یادگیری بهش میگفت:
448
00:35:41,389 --> 00:35:43,891
«بیا اینم جایزهت. همین فرمونو برو جلو.»
449
00:35:45,143 --> 00:35:49,147
ما میتونیم از قدرت کامپیوتر استفاده کنیم و این مهرهها رو بارها آموزش بدیم،
450
00:35:49,230 --> 00:35:50,230
اونم به صورت موازی.
451
00:35:51,357 --> 00:35:52,775
عین یه تیم بسکتبال میمونه.
452
00:35:53,276 --> 00:35:55,778
بجای اینکه هی با یه تیم تکراری بازی کنی،
453
00:35:55,862 --> 00:35:59,198
کل دنیا رو میگردی و با ۵۱۲ تا تیم مختلف مسابقه میدی،
454
00:35:59,699 --> 00:36:00,950
اونم همهشون رو همزمان.
455
00:36:01,492 --> 00:36:03,452
اینجوری خیلی سریع، خیلی خفن میشی.
456
00:36:04,162 --> 00:36:07,456
ما میتونستیم اون شبیهساز رو ۲۴ ساعته اجرا کنیم
457
00:36:07,540 --> 00:36:11,919
و توی ۱۰ ماه، چیزی حدود ۳۰ سال آموزش خلبانی رو بگذرونیم.
458
00:36:12,920 --> 00:36:15,673
از جایی که به زور میتونستیم هواپیما رو کنترل کنیم رسیدیم به...
459
00:36:15,756 --> 00:36:17,717
به یه آدمکشِ خونسرد و حرفهای.
460
00:36:19,010 --> 00:36:23,514
موقع آموزش، فقط داشتیم با هوش مصنوعیهای دیگه رقابت میکردیم.
461
00:36:24,473 --> 00:36:28,561
اما شاخبهشاخ شدن با خودِ آدما هدف نهاییمون بود.
462
00:36:34,192 --> 00:36:35,610
اسم من مایک بنیتزه،
463
00:36:36,110 --> 00:36:38,362
سرهنگ دوم نیروی هوایی آمریکام.
464
00:36:39,155 --> 00:36:41,157
حدود ۲۵ ساله که تو خدمتم.
465
00:36:42,825 --> 00:36:44,869
۲۵۰ تا مأموریت جنگی تو کارنامهام دارم
466
00:36:45,578 --> 00:36:47,538
و فارغالتحصیل مدرسه تسلیحات هستم،
467
00:36:48,039 --> 00:36:49,832
که در واقع همون نسخهی تاپ گانِ نیروی هواییه.
468
00:36:52,627 --> 00:36:55,171
تا حالا عملاً جلوی هوش مصنوعی پرواز نکردم.
469
00:36:55,254 --> 00:36:58,549
واسه همین خیلی مشتاقم ببینم چند مرده حلاجم.
470
00:36:59,634 --> 00:37:03,054
الان تو ارتفاع ۶ هزار پایی، یه آرایش هجومیِ رو در رو داریم.
471
00:37:04,388 --> 00:37:05,223
درگیری شروع شد.
472
00:37:13,314 --> 00:37:14,314
دیگه تمومه، رفت پی کارش.
473
00:37:14,732 --> 00:37:16,651
آره، واقعاً جالبه.
474
00:37:20,780 --> 00:37:23,658
سقط شد. زدمش. یه پیروزیِ تمیز و بینقص.
475
00:37:25,910 --> 00:37:27,453
خب، راند دوم.
476
00:37:35,461 --> 00:37:40,466
کاری که این هوش مصنوعی میکنه، مانور دادن با چنان دقتِ وحشتناکیه که...
477
00:37:40,967 --> 00:37:43,219
اصلاً نمیتونم پا به پاش بیام.
478
00:37:48,474 --> 00:37:49,725
صاف رفتیم تو دلِ درگیری.
479
00:37:50,309 --> 00:37:51,894
اوه، دیگه فاتحهت خوندهست.
480
00:37:53,145 --> 00:37:53,980
زدمش!
481
00:37:54,063 --> 00:37:55,063
هنوز رَدِمو داره.
482
00:37:58,567 --> 00:38:00,069
هوش مصنوعی ترس تو کارش نیست.
483
00:38:00,736 --> 00:38:03,781
یه سری احساسات انسانی تو کابین هست که هوش مصنوعی بویی ازشون نبرده.
484
00:38:04,991 --> 00:38:08,077
یکی از جالبترین استراتژیهایی که هوش مصنوعیمون رو کرد،
485
00:38:08,160 --> 00:38:10,121
چیزی بود که ما بهش میگیم «شلیکِ تو صورت».
486
00:38:10,621 --> 00:38:14,000
معمولاً آدما ترجیح میدن از پشت شلیک کنن،
487
00:38:14,083 --> 00:38:16,377
چون اونجوری پیچوندن و جیم شدن از دستشون سختتره.
488
00:38:17,044 --> 00:38:20,381
سمت شلیکِ رودررو نمیرن چون یه جور کلهخربازیه.
489
00:38:21,424 --> 00:38:25,511
وقتی شاخبهشاخ میشیم، فاصله ۳۰۰۰ فوتی تا ۵۰۰ فوتی...
490
00:38:25,594 --> 00:38:27,096
توی یه چشم به هم زدن اتفاق میافته.
491
00:38:27,596 --> 00:38:31,183
احتمال تصادف خیلی بالاست، واسه همین آدما این ریسکو نمیکنن.
492
00:38:32,893 --> 00:38:35,938
هوش مصنوعی، مگه اینکه بهش حالی کرده باشن، اصلاً از مرگ واهمهای نداره.
493
00:38:37,106 --> 00:38:40,693
ردیفه. انگار دارم با یه آدم میجنگم، ولی...
494
00:38:40,776 --> 00:38:44,113
یه آدمِ کلهخر که واسه جونش پشیزی ارزش قائل نیست.
495
00:38:45,489 --> 00:38:47,325
از این آخری دیگه قسر در نمیره.
496
00:38:57,168 --> 00:38:58,461
دیگه وقتش تمومه.
497
00:39:00,629 --> 00:39:01,629
آخ!
498
00:39:01,964 --> 00:39:02,965
شببخیر، جوجه!
499
00:39:04,091 --> 00:39:05,091
کارم تمومه.
500
00:39:16,812 --> 00:39:17,980
واقعاً آدمو سر جاش میشونه وقتی میبینه...
501
00:39:18,064 --> 00:39:20,983
که شاید من حتی
بهترین گزینه واسه این ماموریت نباشم،
502
00:39:21,484 --> 00:39:24,320
و اون چیز ممکنه همونی باشه
که یه روز جای منو میگیره.
503
00:39:25,696 --> 00:39:26,989
همون ۶ کاو.
504
00:39:27,615 --> 00:39:28,866
هزارتا آفست.
505
00:39:29,367 --> 00:39:32,078
با این خلبان هوش مصنوعی
که جنگندهها رو هدایت میکنه،
506
00:39:32,828 --> 00:39:34,830
پیروزیها بیرحمانه و کوبندهست.
507
00:39:34,914 --> 00:39:37,249
فقط یه برد با اختلاف زیاد نیست.
508
00:39:37,333 --> 00:39:41,545
موضوع اینه: «خب، چطور اینو
روی هواپیماهای خودمون پیاده کنیم؟» اونقدر قدرت داره.
509
00:39:43,672 --> 00:39:47,802
واقعبینانه بگیم، باید منتظر باشیم
که هوش مصنوعی اف-۱۶ رو برونه،
510
00:39:47,885 --> 00:39:49,970
و اون روز چندان دور نیست.
511
00:39:51,305 --> 00:39:56,769
اگه بیفتی جلوی یه خلبان هوش مصنوعی
که نرخ بردش ۹۹/۹۹۹۹۹ درصده،
512
00:39:56,852 --> 00:39:58,062
هیچ شانسی نداری.
513
00:39:59,605 --> 00:40:02,733
وقتی به این فکر میکنم که
یه خلبان هوش مصنوعی شکستناپذیره،
514
00:40:02,817 --> 00:40:06,779
به این فکر میکنم که یه تیم ۵۰ تایی، یا ۱۰۰ تایی،
515
00:40:07,279 --> 00:40:12,535
یا ۱۰۰۰ تا خلبان هوش مصنوعی
میتونن به چه دستاوردهایی برسن.
516
00:40:13,702 --> 00:40:17,415
حمله دستهای یعنی یه تیم
از هواپیماهای فوقهوشمند
517
00:40:17,498 --> 00:40:18,791
که با همدیگه همکاری میکنن.
518
00:40:19,291 --> 00:40:23,462
اونا دارن اطلاعات رو درباره اینکه چه کار کنن
و چطوری مشکل رو حل کنن، به اشتراک میذارن.
519
00:40:25,172 --> 00:40:30,469
حمله دستهای یه قابلیت تحولآفرین
وزلزلهوار توی میدون جنگه
520
00:40:30,553 --> 00:40:32,638
واسه ارتش ما و متحدانمون.
521
00:41:42,750 --> 00:41:47,379
هدف شناسایی شد،
پهپادها دارن ردش رو میزنن.
522
00:42:01,936 --> 00:42:03,604
بریم واسه فرود.
523
00:42:07,566 --> 00:42:10,402
هدف اصلیِ تحقیقات حمله دستهای
که داریم روش کار میکنیم،
524
00:42:11,153 --> 00:42:13,697
اینه که تعداد زیادی پهپاد رو
525
00:42:13,781 --> 00:42:17,910
توی منطقهای که دسترسی بهش سخت
یا خطرناکه، مستقر کنیم.
526
00:42:21,705 --> 00:42:26,085
آزمایشگاه تحقیقاتی ارتش داره از این پروژه تحقیقاتی خاص حمایت میکنه.
527
00:42:26,919 --> 00:42:28,963
اگه میخوای بفهمی تو یه منطقه خاص چه خبره،
528
00:42:29,046 --> 00:42:32,883
اما دسترسی به اونجا سخته یا اینکه منطقه خیلی وسیعه،
529
00:42:33,676 --> 00:42:35,886
اونوقت فرستادن یه دسته پهپاد، یه راه خیلی طبیعیه
530
00:42:35,970 --> 00:42:38,389
تا بُرد عملیاتی نیروها رو افزایش بدیم
531
00:42:38,472 --> 00:42:41,934
و اطلاعاتی رو جمع کنیم که واسه ماموریت حیاتیه.
532
00:42:46,689 --> 00:42:48,983
خب، الان تو بحث اعزام دسته پهپادهای ما،
533
00:42:49,066 --> 00:42:53,988
در واقع ما فقط یه دستور واحد میدیم که برن دنبال سوژه مورد نظر.
534
00:42:54,488 --> 00:42:57,283
بعدش دیگه خود پهپادها میرن و همه کارها رو خودشون ردیف میکنن.
535
00:42:59,493 --> 00:43:04,081
هوش مصنوعی به این رباتها اجازه میده که مثل یه گله با هم حرکت کنن،
536
00:43:04,164 --> 00:43:05,708
اونم به صورت غیرمتمرکز و بدون فرمانده.
537
00:43:10,671 --> 00:43:12,506
تو دستههایی که تو دلِ طبیعت میبینیم،
538
00:43:13,299 --> 00:43:18,178
رئیسی وجود نداره، هیچ حیوونِ ارشدی نیست که به بقیه بگه چیکار کنن.
539
00:43:20,556 --> 00:43:25,019
این رفتار از تکتکِ اون حیوونا نشأت میگیره،
540
00:43:25,102 --> 00:43:27,104
که فقط از چندتا قانونِ ساده پیروی میکنن.
541
00:43:27,688 --> 00:43:32,443
و از دلِ اون، این رفتارِ گروهیِ هماهنگی که میبینید بیرون میاد.
542
00:43:33,944 --> 00:43:37,031
چیزی که تو این دستههای طبیعی آدم رو بهتزده میکنه،
543
00:43:37,114 --> 00:43:39,992
ظرافت و مهارتیه که موقع حرکت از خودشون نشون میدن.
544
00:43:40,576 --> 00:43:44,288
انگار اصلاً واسه این ساخته شدن که بخشی از این گروه باشن.
545
00:43:46,790 --> 00:43:51,128
در حالت ایدهآل، چیزی که ما میخوایم تو دستههای پهپادمون ببینیم اینه که،
546
00:43:51,211 --> 00:43:53,172
دقیقاً مثل همون دستههایی که تو طبیعت هست،
547
00:43:53,672 --> 00:43:56,717
تصمیمها به صورت جمعی توسط کل گروه گرفته بشه.
548
00:43:59,928 --> 00:44:02,765
یه مورد دیگه که ازش الهام گرفتیم،
549
00:44:02,848 --> 00:44:06,268
مربوط به بحثِ قابلیتِ اطمینان و جونسختیشونه.
550
00:44:07,311 --> 00:44:09,188
اون دسته پهپاد به این سادگیها از پا در نمیاد.
551
00:44:09,271 --> 00:44:13,567
اگه یه حیوون اون کاری که باید رو انجام نده...
552
00:44:15,194 --> 00:44:18,697
حتی اگه یکی از مهرهها از کار بیفته یا وا بده،
553
00:44:18,781 --> 00:44:20,866
یا نتونه ماموریتش رو تموم کنه،
554
00:44:21,909 --> 00:44:23,369
این گله به راهش ادامه میده.
555
00:44:25,204 --> 00:44:27,873
و در نهایت، این همون چیزیه که ما دنبالشیم.
556
00:44:29,333 --> 00:44:33,879
توی سناریوهای جنگی، واسه شناسایی هواپیماهای دشمن به این نیاز داریم،
557
00:44:33,962 --> 00:44:37,841
قدیما واسه کنترل هر ربات به یه نفر احتیاج داشتیم.
558
00:44:38,592 --> 00:44:40,552
هرچی استقلال اینا بیشتر بشه،
559
00:44:40,636 --> 00:44:43,555
امیدوارم بتونیم تعداد زیادی از رباتها رو ببینیم
560
00:44:43,639 --> 00:44:46,558
که توسط چند نفر آدم انگشتشمار کنترل میشن.
561
00:44:47,851 --> 00:44:50,854
دلیلی نمیبینم که نتونیم در نهایت به عدد هزار برسیم،
562
00:44:51,355 --> 00:44:54,942
چون هر کدوم از این مهرهها میتونن سرخود عمل کنن،
563
00:44:55,025 --> 00:44:56,443
و دیگه هیچ محدودیتی واسهمون نیست.
564
00:44:57,027 --> 00:44:59,071
میتونیم یادگیریمون رو گسترش بدیم...
565
00:44:59,154 --> 00:45:03,325
خیلی وقته که داریم روی شبیهسازیِ هجوم کار میکنیم،
566
00:45:03,409 --> 00:45:06,829
و حالا وقتشه که این رو بیاریم روی هواپیماهای واقعی.
567
00:45:07,454 --> 00:45:12,042
برنامهمون اینه که سه تا ربات رو همزمان توی شبکه کنترل کنیم،
568
00:45:12,126 --> 00:45:15,129
و بعدش شروع کنیم به اضافه کردنِ قابلیتهای بیشتر.
569
00:45:15,879 --> 00:45:18,549
میخوایم این رو روی سیستمهای کوچیکتر تست کنیم،
570
00:45:18,632 --> 00:45:22,261
ولی همون مفاهیم رو روی سیستمهای بزرگتر پیاده کنیم،
571
00:45:22,344 --> 00:45:23,679
مثل یه جت جنگنده.
572
00:45:24,513 --> 00:45:26,014
ما مدام در این باره حرف میزنیم که،
573
00:45:26,098 --> 00:45:31,937
چطوری میشه قدرت جنگی یه گردان رو داد به یه دسته؟
574
00:45:34,982 --> 00:45:39,528
یا قدرت یه تیپ رو داد به یه گردان؟
575
00:45:39,611 --> 00:45:41,488
با سیستم هجومی میشه این کار رو کرد.
576
00:45:42,614 --> 00:45:45,200
وقتی بتونی اون قدرتِ هجومِ تودهای رو آزاد کنی،
577
00:45:45,284 --> 00:45:48,078
در واقع یه بازدارندگیِ استراتژیک جدید خلق کردی
578
00:45:48,162 --> 00:45:49,455
در برابر تجاوزهای نظامی.
579
00:45:52,332 --> 00:45:57,004
به نظرم جذابترین بخشش، تعدادِ اون دختر و پسرهای جوونیه
580
00:45:57,087 --> 00:46:00,299
که اگه این کار رو درست انجام بدیم، جونشون رو نجات میدیم.
581
00:46:01,091 --> 00:46:03,594
و اونوقت به جای جونِ آدما،
582
00:46:04,553 --> 00:46:05,846
ماشینها رو فدا میکنیم.
583
00:46:06,638 --> 00:46:10,893
بعضیا معتقدن سلاحهای خودمختار جنگ رو دقیقتر
584
00:46:10,976 --> 00:46:12,311
و انسانیتر میکنن،
585
00:46:12,853 --> 00:46:15,397
اما در واقع سخته که بخوای از قبل
586
00:46:15,481 --> 00:46:19,443
دقیقاً پیشبینی کنی این سلاحها چطور قراره جنگ رو تغییر بدن.
587
00:46:21,320 --> 00:46:23,238
مثل اختراعِ مسلسل گاتلینگه.
588
00:46:25,073 --> 00:46:26,700
ریچارد گاتلینگ یه مخترع بود،
589
00:46:27,201 --> 00:46:30,954
اون سربازایی که از جنگ داخلی زخمی برمیگشتن رو دید،
590
00:46:32,289 --> 00:46:35,292
و میخواست راهی پیدا کنه تا جنگ رو انسانیتر کنه.
591
00:46:36,293 --> 00:46:39,797
برای اینکه تعداد سربازهای کشته شده تو جنگ رو کم کنه،
592
00:46:40,422 --> 00:46:42,633
اونم با کاهشِ تعدادِ خودِ سربازها تو میدونِ نبرد.
593
00:46:44,092 --> 00:46:48,388
پس مسلسل گاتلینگ رو اختراع کرد؛ یه سلاح خودکار که با یه هندل میچرخید
594
00:46:48,472 --> 00:46:50,516
و میتونست پروسهی شلیک رو اتوماتیک کنه.
595
00:46:53,268 --> 00:46:57,981
این کار عملاً قدرتِ آتیشی که سربازها میتونستن پیاده کنن رو صد برابر کرد.
596
00:47:01,235 --> 00:47:05,239
خیلی وقتا، تلاش برای دقیقتر و انسانیتر کردنِ جنگ...
597
00:47:06,532 --> 00:47:07,991
...میتونه نتیجهی کاملاً برعکس بده.
598
00:47:10,160 --> 00:47:13,455
به تاثیرِ یه حملهی پهپادیِ اشتباه فکر کن
599
00:47:13,539 --> 00:47:14,540
توی یه منطقهی روستایی،
600
00:47:14,623 --> 00:47:17,209
که کلِ مردمِ اون منطقه رو علیه ایالات متحده میشورونه.
601
00:47:17,292 --> 00:47:20,712
علیه دولت محلی. مثلاً همونایی که به اصطلاح آدمخوبهان.
602
00:47:22,589 --> 00:47:25,008
حالا همونو هزار برابر گندهترش کن.
603
00:47:26,718 --> 00:47:28,720
ساخت یه سیستم تسلیحاتی
604
00:47:28,804 --> 00:47:34,560
که هم ارزونه، هم همهجا جواب میده و هم نیازی به اپراتور نداره
605
00:47:34,643 --> 00:47:37,896
کلاً سد راهِ درگیریها رو از بین میبره.
606
00:47:40,107 --> 00:47:44,486
فکر کردن به دنیایی که توش هر گوشهاش جنگ و دعواست، شبا خواب رو از سرم میپرونه،
607
00:47:44,987 --> 00:47:48,657
جایی که دیگه نه خبری از تلفات انسانیه و نه هزینههای سنگین جنگ،
608
00:47:48,740 --> 00:47:51,410
چون اونقدر از ماجرا دور شدیم که...
609
00:47:52,369 --> 00:47:54,037
دیگه جون آدمایی که قراره از دست بره برامون مهم نیست.
610
00:47:59,459 --> 00:48:01,420
این کل ماجرا داره دیوونهم میکنه.
611
00:48:02,212 --> 00:48:05,924
فقط یه مثال میخواستم از اینکه چطوری میشه از هوش مصنوعی سوءاستفاده کرد.
612
00:48:06,800 --> 00:48:10,888
عواقب پیشبینینشدهی اون آزمایش فکریِ ساده،
613
00:48:10,971 --> 00:48:12,848
دیگه خیلی بیخ پیدا کرده.
614
00:48:17,352 --> 00:48:18,729
وقتی داشتم اون ارائه رو میدادم،
615
00:48:18,812 --> 00:48:22,107
دربارهی مولکولهای سمیای که با تکنولوژی هوش مصنوعی ساخته شدن،
616
00:48:22,608 --> 00:48:24,318
فک همه چسبید به زمین.
617
00:48:29,406 --> 00:48:33,660
تصمیم بعدی این بود که آیا اصلاً باید این اطلاعات رو عمومی کنیم یا نه.
618
00:48:34,912 --> 00:48:36,914
از یه طرف میخوای به دنیا هشدار بدی
619
00:48:36,997 --> 00:48:40,125
که همچین قابلیتهایی وجود داره، اما از طرف دیگه،
620
00:48:40,208 --> 00:48:44,087
نمیخوای این فکر رو بندازی تو سرِ کسی که اصلاً روحشم خبر نداشته.
621
00:48:46,381 --> 00:48:48,133
تصمیم گرفتیم که ارزشش رو داره منتشرش کنیم
622
00:48:48,216 --> 00:48:52,679
تا شاید راهی پیدا کنیم که جلوی گندکاریهای این مدل هوش مصنوعی رو بگیریم،
623
00:48:52,763 --> 00:48:54,139
قبل از اینکه کار از کار بگذره.
624
00:49:01,897 --> 00:49:04,775
واکنش مردم واقعاً تکوندهنده بود.
625
00:49:07,194 --> 00:49:10,656
از روی آمار صفحه میتونیم بفهمیم چند نفر بهش دسترسی داشتن.
626
00:49:10,739 --> 00:49:14,451
مقالههایی که ما معمولاً مینویسیم، شانس بیاریم اگه...
627
00:49:14,534 --> 00:49:19,831
توی یه بازه یه ساله یا چند ساله، کلاً چند هزار نفر برن سراغشون.
628
00:49:19,915 --> 00:49:22,084
ولی این یکی رو فقط توی یه هفته ده هزار نفر خونده بودن.
629
00:49:22,167 --> 00:49:25,337
بعد شد ۲۰ هزار تا، بعد ۳۰ هزار، بعد ۴۰ هزار تا،
630
00:49:25,837 --> 00:49:28,715
و کار به جایی رسید که روزی ۱۰ هزار نفر میدیدنش.
631
00:49:30,258 --> 00:49:33,512
ما توی «اکونومیست» و «فایننشال تایمز» هم مطلب داشتیم.
632
00:49:35,639 --> 00:49:39,977
حتی «رادیولب» هم باهامون تماس گرفت. باورت میشه؟ من اسم رادیولب رو شنیده بودم!
633
00:49:41,937 --> 00:49:45,899
اما بعدش واکنشها جوری شد که دیگه از کنترل خارج شد.
634
00:49:49,778 --> 00:49:53,532
وقتی اون توئیتها رو میدیدیم، با خودمون میگفتیم: «یا خدا، مگه از این بدتر هم میشه؟»
635
00:49:54,324 --> 00:49:55,993
چرا این کار رو کردن؟
636
00:50:01,164 --> 00:50:04,501
و بعدش یه دعوتی ازمون شد که اصلاً فکرش رو هم نمیکردم.
637
00:50:08,797 --> 00:50:12,926
توی کاخ سفید کلی بحث و جدل سر این مقاله راه افتاده بود،
638
00:50:13,010 --> 00:50:15,345
و میخواستن خیلی فوری باهامون حرف بزنن.
639
00:50:18,849 --> 00:50:20,809
خب معلومه، افتخار خیلی بزرگیه
640
00:50:20,892 --> 00:50:23,020
که بتونی با آدمایی در این سطح حرف بزنی.
641
00:50:23,603 --> 00:50:25,272
ولی یهو به خودت میای و میبینی...
642
00:50:25,355 --> 00:50:28,900
«اوه لعنتی، این کاخ سفیده. یعنی خودِ رئیس.»
643
00:50:29,693 --> 00:50:33,196
قضیه مربوط میشد به جمع کردن یه سری دادههای متنباز...
644
00:50:33,280 --> 00:50:37,701
و حدوداً توی شش ساعت، اون مدل تونست بیش از ۴۰ هزار تا... تولید کنه.
645
00:50:37,784 --> 00:50:41,038
ازمون پرسیدن چقدر قدرت پردازش لازم داشتین،
646
00:50:41,872 --> 00:50:43,832
و ما هم بهشون گفتیم چیز خاصی نبود.
647
00:50:44,332 --> 00:50:48,211
کلاً با یه «مک» معمولی و دمدستیِ شش سال پیش.
648
00:50:49,546 --> 00:50:51,256
و این قضیه بدجوری دهنشون رو باز گذاشت.
649
00:50:54,968 --> 00:50:59,473
آدمایی که مسئول بررسی عوامل جنگ شیمیایی هستن،
650
00:50:59,556 --> 00:51:04,019
و بقیهی سازمانهای دولتی، اصلاً روحشون هم از چنین پتانسیلی خبر نداشت.
651
00:51:06,605 --> 00:51:09,816
یه دستورالعمل دستمونه واسه ساختِ این سلاحهایِ شیمیایی،
652
00:51:10,650 --> 00:51:15,572
که اگه بیفته دستِ یه آدمِ عوضی با نیتِ شوم،
653
00:51:16,573 --> 00:51:18,992
میتونه یه فاجعهیِ تمامعیار باشه.
654
00:51:21,703 --> 00:51:23,205
مردم باید به خودشون بیان و گوش بدن،
655
00:51:23,288 --> 00:51:26,458
ما هم باید یه قدمی برداریم؛ یا این تکنولوژی رو قانونمند کنیم،
656
00:51:27,250 --> 00:51:30,670
یا یه جوری مهارش کنیم که نشه ازش سوءاستفاده کرد.
657
00:51:31,880 --> 00:51:35,175
چون پتانسیلِ مرگبار بودنش...
658
00:51:36,176 --> 00:51:37,344
واقعاً وحشتناکه.
659
00:51:40,680 --> 00:51:45,977
بحثِ اخلاقیاتِ هوشِ مصنوعی بیشتر به جامعه برمیگرده،
660
00:51:46,561 --> 00:51:50,273
نه مهندسا و فناورها و ریاضیدانها.
661
00:51:52,526 --> 00:51:56,822
هر تکنولوژیِ جدیدی که رو میکنیم، هر نوآوریای،
662
00:51:56,905 --> 00:52:00,617
آخرش برمیگرده به اینکه جامعه چطور صلاح میدونه ازش استفاده بشه.
663
00:52:03,036 --> 00:52:06,498
فعلاً که وزارتِ دفاع میگه،
664
00:52:06,581 --> 00:52:09,960
«تنها کسی که تو میدونِ جنگ حکمِ کشتن رو صادر میکنه،
665
00:52:10,043 --> 00:52:11,920
یه انسانه.»
666
00:52:12,504 --> 00:52:14,548
ماشین ممکنه کشتن رو انجام بده،
667
00:52:15,674 --> 00:52:18,927
اما فقط به دستورِ یه اپراتورِ آدم،
668
00:52:19,636 --> 00:52:21,429
و فکر نمیکنم این هیچوقت تغییر کنه.
669
00:52:24,808 --> 00:52:28,103
اونا بهمون اطمینان میدن که این تیپ تکنولوژی جاش امنه.
670
00:52:29,729 --> 00:52:33,692
ولی ارتشِ آمریکا تو جنگهایِ پهپادی،
671
00:52:33,775 --> 00:52:35,485
اصلاً سابقهیِ قابلاعتمادی نداره.
672
00:52:36,820 --> 00:52:41,783
واسه همین وقتی بحثِ اعتماد به ارتشِ آمریکا تو هوش مصنوعی پیش میاد،
673
00:52:41,867 --> 00:52:45,036
به نظرم سوابقشون خودش گویایِ همهچیز هست.
674
00:52:46,288 --> 00:52:50,125
سیاستِ وزارتِ دفاعِ آمریکا در موردِ استفاده از خودمختاری تو سلاحها،
675
00:52:50,208 --> 00:52:52,919
هیچکدوم از سیستمهایِ تسلیحاتی رو ممنوع نکرده.
676
00:52:53,003 --> 00:52:56,715
حتی اگه ارتشها هم سلاحهای خودمختار رو نخوان،
677
00:52:56,798 --> 00:53:01,678
ممکنه ببینیم که ارتشها دارن تصمیمات بیشتری رو به ماشینها واگذار میکنن
678
00:53:01,761 --> 00:53:03,680
فقط برای اینکه از رقیبهاشون عقب نیفتن.
679
00:53:04,764 --> 00:53:08,351
و همین باعث میشه ارتشها مجبور بشن تصمیمات رو خودکار کنن،
680
00:53:08,435 --> 00:53:09,978
حتی اونایی که شاید اصلاً دلشون نخواد.
681
00:53:12,022 --> 00:53:13,440
ولادیمیر پوتین گفت:
682
00:53:13,523 --> 00:53:16,693
«هر کی تو هوش مصنوعی پیشرو باشه، حاکم دنیا میشه.»
683
00:53:17,736 --> 00:53:23,325
رئیسجمهور شی کاملاً روشن کرده که هوش مصنوعی یکی از مهمترین تکنولوژیهاییه
684
00:53:23,408 --> 00:53:25,702
که چین میخواد توش حرف اول رو بزنه.
685
00:53:26,786 --> 00:53:29,831
ما قطعاً وسط یه رقابت تکنولوژیک هستیم.
686
00:53:33,418 --> 00:53:35,670
میشنوی که بقیه از چارچوبها و خط قرمزها حرف میزنن،
687
00:53:36,463 --> 00:53:39,424
و به نظرم بقیه هم باید همین کار رو بکنن.
688
00:53:40,467 --> 00:53:45,180
اما یه مسابقهی واقعی برای رسیدن به برتری تو هوش مصنوعی راه افتاده.
689
00:53:47,265 --> 00:53:51,603
و دشمنهای ما، چه چین باشه، چه روسیه، چه ایران،
690
00:53:52,187 --> 00:53:56,566
اصلاً تره هم برای سیاستهای ما در مورد هوش مصنوعی خرد نمیکنن.
691
00:54:00,820 --> 00:54:04,324
داری میبینی که بحثهای خیلی بیشتری دربارهی سیاستهای هوش مصنوعی راه افتاده،
692
00:54:06,117 --> 00:54:09,287
ولی ای کاش رهبرهای بیشتری این بحث رو میکردن که:
693
00:54:09,371 --> 00:54:11,706
«با چه سرعتی میتونیم این لعنتی رو بسازیم؟
694
00:54:12,707 --> 00:54:15,168
بیا تا خرخره بهش بودجه بدیم و بسازیمش.»
695
00:54:33,478 --> 00:54:38,358
ما تو بزرگترین نمایشگاه تجاری سالانهی انجمن ارتش آمریکا هستیم.
696
00:54:39,609 --> 00:54:44,572
در واقع هر فروشندهای که بخواد محصول یا تکنولوژیش رو به ارتش بفروشه،
697
00:54:44,656 --> 00:54:46,616
اینجا غرفه داره.
698
00:54:47,659 --> 00:54:50,537
پایگاه هوایی تیندال چهارتا از رباتهای ما رو داره،
699
00:54:50,620 --> 00:54:53,748
که ۲۴ ساعته و هفت روز هفته دارن تو پایگاه گشت میزنن.
700
00:54:55,750 --> 00:55:00,130
میتونیم همه چیز بهشون اضافه کنیم، از دوربین و سنسور گرفته تا هر چی که نیاز داشته باشین.
701
00:55:00,213 --> 00:55:05,135
بازوهای مکانیکی. بازم میگم، فقط واسه اینکه همون ماموریتی که مشتری تو سرشه رو به سرانجام برسونیم.
702
00:55:06,678 --> 00:55:08,638
اگه دشمنت پای هوش مصنوعی رو بکشه وسط چی؟
703
00:55:09,431 --> 00:55:12,976
یه سیستم جنگی که از تو سریعتر فکر میکنه و سریعتر واکنش نشون میده،
704
00:55:13,059 --> 00:55:16,062
اونم سریعتر از هر بنیبشری؟ باید واسهش آماده باشیم.
705
00:55:17,605 --> 00:55:21,359
ما سیستمهامون رو طوری آموزش میدیم که از دشمن آمار دربیارن،
706
00:55:22,027 --> 00:55:26,531
و اهداف دشمن رو با نظارت مستقیمِ آدما تو چرخهی عملیات مدیریت کنن.
707
00:55:33,204 --> 00:55:34,956
- سلام تیمسار. - چطوری؟
708
00:55:35,040 --> 00:55:37,208
خوبم قربان. شما چطورید؟ راستش...
709
00:55:37,709 --> 00:55:40,962
فقط اینو بگم که هیچکی بیشتر از ما روی خلبان هوش مصنوعی مایه نمیذاره.
710
00:55:41,046 --> 00:55:42,630
اسم خلبان هوش مصنوعیِ ما «هایومایند»ـه،
711
00:55:43,298 --> 00:55:47,135
ما این سیستم رو روی کوادکوپتر «نووا» پیاده کردیم. قشنگ میره داخلِ ساختمونا،
712
00:55:47,218 --> 00:55:49,387
و قبل از اینکه نیروهای ویژه وارد عمل بشن، اونجا رو شناسایی میکنه،
713
00:55:49,471 --> 00:55:50,805
همینطور واسه نیروهای پیاده.
714
00:55:50,889 --> 00:55:52,891
داریم «هایومایند» رو روی V-BAT هم پیاده میکنیم،
715
00:55:52,974 --> 00:55:56,811
تو فکرمه که صدها مورد از این تیمها رو بفرستم میدون.
716
00:55:56,895 --> 00:55:58,646
چه تو تنگهی تایوان باشه،
717
00:55:58,730 --> 00:56:01,608
چه تو اوکراین؛ واسه اینکه حساب کار دستِ دشمنا بیاد.
718
00:56:01,691 --> 00:56:03,360
خلاصه که، خیلی بابتش هیجانزدهام.
719
00:56:03,943 --> 00:56:06,196
- بسیار خب. ممنون. - پس... ممنون تیمسار.
720
00:56:07,989 --> 00:56:13,370
خلبانای هوش مصنوعی باید همهجا باشن، و تا سال ۲۰۲۵ یا ۲۰۳۰ همینطوری هم میشه.
721
00:56:14,204 --> 00:56:17,582
ارتشهای کل دنیا خیلی زود میرن سراغش.
722
00:56:19,250 --> 00:56:22,962
با ارتش رومانی، با اون مسئول پهپادهاشون چیکار میکنی؟
723
00:56:23,046 --> 00:56:24,756
تجهیزات فوقپیشرفته توی ارتش.
724
00:56:25,256 --> 00:56:29,803
تا همین امروز نیم میلیارد دلار واسه ساخت خلبان هوش مصنوعی خرج کردیم.
725
00:56:29,886 --> 00:56:34,015
پنج سال آینده هم یه میلیارد دیگه پاش میریزیم. و این یعنی...
726
00:56:34,099 --> 00:56:37,769
دلیل اصلیِ اینکه داریم تو مناقصههای دولتی آمریکا برنده میشیم همینه.
727
00:56:37,852 --> 00:56:38,853
دمت گرم.
728
00:56:38,937 --> 00:56:42,732
میگم، واقعاً محشره. تونستی ازش یه سلاح بسازی.
729
00:56:43,608 --> 00:56:45,944
خب، راستش... هنوز به سلاح تبدیل نشده.
730
00:56:46,027 --> 00:56:48,321
پس فعلاً نه. ولی آره، تو آینده حتماً.
731
00:56:48,905 --> 00:56:52,534
مشتریای ما فکر میکنن این یه کامیونه، ولی ما به چشم یه کامیونِ هوشمند میبینیمش
732
00:56:52,617 --> 00:56:54,452
که از پسِ کلی کارِ مختلف برمیآد.
733
00:56:54,536 --> 00:56:55,703
دمت گرم رفیق.
734
00:56:55,787 --> 00:56:57,956
حتماً باهات در تماس میمونم.
735
00:57:01,668 --> 00:57:04,129
اگه ده سال دیگه برگردی،
736
00:57:04,212 --> 00:57:06,256
میبینی که، خب...
737
00:57:06,339 --> 00:57:10,802
هوش مصنوعی و سیستمهای خودمختار کلِ این بازار رو قبضه کردن.
738
00:57:14,889 --> 00:57:19,352
نیروهایی که با هوش مصنوعی و سیستمهای خودمختار مجهز شدن،
739
00:57:19,436 --> 00:57:25,108
قطعاً بقیه رو قورت میدن، لِه میکنن و با خاک یکسان میکنن.
740
00:57:26,401 --> 00:57:30,780
درست مثلِ حمله کردنِ اسبها به تانکهاست،
741
00:57:31,781 --> 00:57:34,367
یا کسایی که با شمشیر میرن به جنگِ تیربار.
742
00:57:34,909 --> 00:57:37,120
اصلاً با هم قابل مقایسه نیستن.
743
00:57:38,746 --> 00:57:42,750
همهگیر میشه، تو تمامِ لایههای جنگ ازش استفاده میکنن،
744
00:57:43,585 --> 00:57:44,836
از سطح تاکتیکی،
745
00:57:45,336 --> 00:57:46,546
تا سطح استراتژیک،
746
00:57:47,172 --> 00:57:50,800
با سرعتهایی عمل میکنه که عقلِ بشرِ امروز بهش قد نمیده.
747
00:57:53,094 --> 00:57:57,098
همین الانش هم فرماندهها زیرِ بارِ اینهمه اطلاعات دارن لِه میشن.
748
00:57:57,599 --> 00:58:01,019
تصاویر ماهوارهها، پهپادها و سنسورها.
749
00:58:02,103 --> 00:58:03,396
یکی از کارایی که هوش مصنوعی میتونه بکنه،
750
00:58:03,480 --> 00:58:06,774
اینه که به فرمانده کمک کنه خیلی سریعتر بفهمه دور و برش چه خبره.
751
00:58:07,650 --> 00:58:09,903
بعدش هم اینکه، «چه تصمیمایی باید بگیرم؟»
752
00:58:11,237 --> 00:58:14,866
هوش مصنوعی تمام فاکتورهایی رو در نظر میگیره
753
00:58:14,949 --> 00:58:17,702
که تعیین میکنن جنگ چطوری پیش بره،
754
00:58:18,286 --> 00:58:20,246
استراتژی میچینه...
755
00:58:22,540 --> 00:58:25,668
و پیشنهاد میده که چطور توی نبرد برنده بشیم.
756
00:58:36,971 --> 00:58:40,266
ما توی لاکهید مارتین، مثل مشتریمون یعنی وزارت دفاع،
757
00:58:40,350 --> 00:58:43,770
هوش مصنوعی رو یه ابزار کلیدی و راهگشا میبینیم
758
00:58:43,853 --> 00:58:45,104
واسه فرماندهی و کنترل.
759
00:58:47,065 --> 00:58:50,235
سرعتِ پیشرویش بهطور متوسط دو فوت بر ثانیهست.
760
00:58:50,318 --> 00:58:52,695
این محدوده حدوداً ۷۰۰ ایکره.
761
00:58:52,779 --> 00:58:55,782
«مهِ جنگ» واسه ما که تو کارِ دفاعی هستیم یه واقعیتِ ملموسه،
762
00:58:57,158 --> 00:59:00,495
اما با شرایطی که توی محیط پیش میاد
763
00:59:00,578 --> 00:59:03,206
و مجبور میشی واسه مهار آتیشسوزی جنگل تصمیم بگیری هم شباهت داره.
764
00:59:03,289 --> 00:59:06,543
آتیشسوزی واشبورن دقیقاً شمال شهر واووناست.
765
00:59:06,626 --> 00:59:09,629
باید با یه مشت اطلاعاتِ ناقص و داغون تصمیم بگیری.
766
00:59:10,630 --> 00:59:14,300
حالا چطوری از هوش مصنوعی کمک بگیریم که توی اون مِهِ جنگ گُم نشیم؟
767
00:59:17,637 --> 00:59:19,597
آتیشسوزیهای جنگلی خیلی خر تو خر و آشفتهان.
768
00:59:20,181 --> 00:59:21,266
خیلی پیچیدهان،
769
00:59:22,267 --> 00:59:26,354
واسه همین داریم روی استفاده از هوش مصنوعی کار میکنیم
770
00:59:26,437 --> 00:59:27,855
تا توی تصمیمگیریها به دادمون برسه.
771
00:59:31,442 --> 00:59:33,987
«مدیریت ماموریت شناختی» برنامهایه که داریم روش کار میکنیم،
772
00:59:34,070 --> 00:59:37,949
که ویدیوهای مادون قرمزِ هوایی رو میگیره
773
00:59:38,032 --> 00:59:41,786
و با الگوریتمهای هوش مصنوعیمون پردازش میکنه
774
00:59:41,869 --> 00:59:45,248
تا بتونه وضعیتِ بعدی آتیش رو پیشبینی کنه.
775
00:59:48,042 --> 00:59:49,794
هرچی که جلوتر میریم،
776
00:59:49,877 --> 00:59:52,922
مدیریت هوشمند ماموریت از شبیهسازی استفاده میکنه،
777
00:59:53,006 --> 00:59:57,093
هزاران بار سناریوها رو بالا و پایین میکنه،
778
00:59:57,176 --> 01:00:00,722
تا بهترین راه برای اعزام نیروها رو پیشنهاد بده،
779
01:00:00,805 --> 01:00:04,058
واسه مهار آتیش تو نقاط حساس.
780
01:00:08,062 --> 01:00:12,400
بهت میگه: "با یه فایرهوک برو فلانجا و از بالا آتیش رو مهار کن."
781
01:00:13,568 --> 01:00:15,903
"تیمهای زمینی رو ببر که مسیر رو باز کنن..."
782
01:00:16,988 --> 01:00:19,032
"...آتیشنشانهایی که دارن آبپاشی میکنن،"
783
01:00:19,657 --> 01:00:23,077
"و بفرستشون تو بحرانیترین نقاط."
784
01:00:26,289 --> 01:00:29,292
این تصمیمها خیلی سریعتر گرفته میشن
785
01:00:29,375 --> 01:00:31,044
و بازدهی خیلی بیشتری دارن.
786
01:00:35,840 --> 01:00:38,468
ما هوش مصنوعی رو تنها راهی میبینیم که به نیروهای ما اجازه میده
787
01:00:38,551 --> 01:00:42,305
پا به پای تغییرات لحظهایِ محیط پیش برن.
788
01:00:43,514 --> 01:00:46,517
شباهتهای انکارناپذیر زیادی بین این موضوع
789
01:00:46,601 --> 01:00:50,355
و کارهای دفاعیِ ما تو لاکهید مارتین وجود داره.
790
01:00:52,231 --> 01:00:55,860
ارتش دیگه فقط دنبال استفاده از هوش مصنوعی
791
01:00:55,943 --> 01:01:00,323
تو سلاحهای خاص برای هدفگیری و کشتن نیست،
792
01:01:00,865 --> 01:01:02,200
بلکه داره هوش مصنوعی رو
793
01:01:02,283 --> 01:01:05,787
با کل ساختار تصمیمگیریِ نظامیش ادغام میکنه.
794
01:01:09,415 --> 01:01:12,960
نیروی زمینی یه پروژه بزرگ به اسم «پروژه همگرایی» داره.
795
01:01:14,545 --> 01:01:16,589
نیروی دریایی پروژه «اُورمَچ» رو پیش میبره.
796
01:01:16,673 --> 01:01:19,592
و نیروی هوایی هم «سیستم پیشرفته مدیریت نبرد» رو داره.
797
01:01:21,886 --> 01:01:24,138
وزارت دفاع داره تلاش میکنه بفهمه،
798
01:01:24,222 --> 01:01:26,683
"چطوری این تکهها رو کنار هم بچینه،"
799
01:01:26,766 --> 01:01:29,268
"تا بتونیم سریعتر از دشمن عمل کنیم"
800
01:01:30,395 --> 01:01:32,355
"و واقعاً دست بالا رو داشته باشیم؟"
801
01:01:33,481 --> 01:01:37,527
یه مدیر نبرد هوش مصنوعی، درست مثل یه ژنرال ردهبالاست
802
01:01:37,610 --> 01:01:39,821
که کل میدون جنگ زیر دستشه.
803
01:01:41,155 --> 01:01:44,158
به خیل عظیمی از نیروها دستور میده،
804
01:01:45,118 --> 01:01:49,247
و تمام سلاحهایی که اون بیرون هست رو با هم جفتوجور میکنه،
805
01:01:49,330 --> 01:01:51,958
اونم با سرعتی که هیچ بنیبشری نمیتونه به گرد پاش برسه.
806
01:01:53,543 --> 01:01:55,294
ما ۷۰ سالِ تمام سگدو زدیم
807
01:01:55,378 --> 01:01:58,798
تا پیشرفتهترین ارتش روی زمین رو بسازیم،
808
01:01:58,881 --> 01:02:03,177
و حالا موندیم سر یه تصمیمِ سگی؛ اینکه اختیار رو بدیم بره یا نه،
809
01:02:03,261 --> 01:02:07,598
یعنی کل این زیرساخت رو بسپریم به یه مشت الگوریتم و نرمافزار.
810
01:02:10,351 --> 01:02:13,187
و عواقب اون تصمیم
811
01:02:13,271 --> 01:02:16,774
میتونه تموم زرادخونههای نظامیمون رو به آتیش بکشه.
812
01:02:16,858 --> 01:02:19,902
این دیگه یه دونه هیروشیما نیست، صدتا هیروشیماست.
813
01:02:25,616 --> 01:02:27,869
الان وقتشه که یه غلطی بکنیم،
814
01:02:27,952 --> 01:02:33,166
چون فرصت برای مهار این خطر داره به سرعت از دست میره.
815
01:02:34,667 --> 01:02:39,338
امروز بعدازظهر، با چالشهای امنیت بینالمللی شروع میکنیم
816
01:02:39,422 --> 01:02:41,132
که از فناوریهای نوظهور نشأت گرفتن،
817
01:02:41,215 --> 01:02:44,343
اونم در زمینه سامانههای تسلیحاتیِ خودمختارِ مرگبار.
818
01:02:44,427 --> 01:02:47,722
توی سازمان ملل داره بحثهایی میشه
819
01:02:47,805 --> 01:02:50,016
درباره تهدیدِ سلاحهای خودمختار و آدمکش
820
01:02:50,600 --> 01:02:56,564
و ممنوعیت سیستمهایی که از هوش مصنوعی برای انتخاب و هدف قرار دادن آدما استفاده میکنن.
821
01:02:56,647 --> 01:03:00,777
اتفاق نظر بین متخصصهای تکنولوژی، صریح و قاطعانهست.
822
01:03:00,860 --> 01:03:04,030
ما با سلاحهای خودمختاری که آدما رو هدف میگیرن مخالفیم.
823
01:03:05,615 --> 01:03:08,993
سالهاست که دولتها دارن سر این موضوع بحث میکنن،
824
01:03:09,076 --> 01:03:11,329
یعنی همین سیستمهای تسلیحاتیِ مرگبار و خودمختار.
825
01:03:12,288 --> 01:03:16,793
این بحث سرِ یه امنیتِ همگانی و مشترکه.
826
01:03:17,752 --> 01:03:20,546
ولی خب، مسلماً کار راحتی نیست.
827
01:03:21,297 --> 01:03:25,968
یه سری کشورها، مخصوصاً اون ابرقدرتهای نظامی،
828
01:03:26,052 --> 01:03:27,762
میخوان همیشه یه قدم جلوتر باشن،
829
01:03:28,429 --> 01:03:31,599
تا از رقباشون عقب نیفتن.
830
01:03:32,600 --> 01:03:36,187
مسئله اینجاست که واسه انجام هر کاری، همه باید با هم توافق کنن.
831
01:03:36,896 --> 01:03:39,065
همیشه هم حداقل یه کشور پیدا میشه که ساز مخالف بزنه،
832
01:03:39,148 --> 01:03:42,109
و شک نکن که آمریکا و روسیه هر دو تا الان رک و پوستکنده گفتن
833
01:03:42,193 --> 01:03:45,655
که با هر معاهدهای واسه ممنوعیت سلاحهای خودکار مخالفن.
834
01:03:47,198 --> 01:03:53,246
وقتی میبینی چقدر آدم دارن سگدو میزنن تا هوش مصنوعی رو قویتر کنن،
835
01:03:54,747 --> 01:03:56,457
میفهمی که اون اتاق بدجوری غلغلهست.
836
01:03:57,750 --> 01:04:02,880
اما وقتی بحثِ امنیت و مهار کردن این غول وسط میاد،
837
01:04:04,340 --> 01:04:07,552
میبینی که اون اتاق انگار خالی از سکنه است.
838
01:04:11,764 --> 01:04:13,724
ولی با این حال، من هنوز واقعاً خوشبینم.
839
01:04:16,060 --> 01:04:19,438
یادِ یه چیزی مثل «کنوانسیون سلاحهای بیولوژیک» میفتم،
840
01:04:19,522 --> 01:04:21,774
که درست وسطِ گیرودارِ جنگ سرد اتفاق افتاد...
841
01:04:23,025 --> 01:04:27,655
اونم با وجودِ تمامِ اون تنشهای سگمصبِ بین شوروی و آمریکا.
842
01:04:29,156 --> 01:04:33,536
اونا بالاخره فهمیدن که ساختِ سلاحهای میکروبی
843
01:04:33,619 --> 01:04:36,247
به نفعِ هیچکدومشون نیست،
844
01:04:36,330 --> 01:04:38,749
و کل دنیا رو به گند میکشه.
845
01:04:41,335 --> 01:04:44,672
تو مسابقهی تسلیحاتی، سرعت همیشه امنیت رو قربانی میکنه.
846
01:04:45,715 --> 01:04:48,342
ولی نکتهی مهمی که باید تو کلهمون فرو کنیم اینه که،
847
01:04:48,426 --> 01:04:52,430
یه جایی میرسه که این تند رفتنها، بدجوری واسهمون گرون تموم میشه.
848
01:04:56,225 --> 01:04:59,270
نمیشه همینطوری تو انزوا یه چیزی بسازیم
849
01:05:00,021 --> 01:05:06,611
و بدونِ هیچ فکری به عواقبش، ولش کنیم تو دنیا.
850
01:05:07,862 --> 01:05:10,823
باید جلوی تکرارِ فاجعهای مثل بمب اتم رو بگیریم.
851
01:05:14,577 --> 01:05:17,705
توی مسابقهی هوش مصنوعی، پایِ چیزای خیلی بزرگی وسطِ.
852
01:05:18,289 --> 01:05:22,001
فکر نمیکنم خیلیا قدرِ این ثبات جهانی رو بدونن،
853
01:05:22,084 --> 01:05:28,174
ثباتی که بهخاطر داشتن یه قدرت نظامیِ برتر بهدست اومده،
854
01:05:28,257 --> 01:05:31,135
اونم تو این ۷۵ سالِ گذشته.
855
01:05:32,887 --> 01:05:35,681
واسه همینم آمریکا و نیروهای متحدِ ما،
856
01:05:36,557 --> 01:05:38,684
باید از هوش مصنوعیِ دشمن جلو بزنن.
857
01:05:43,314 --> 01:05:44,774
تو جنگ، رتبهی دوم هیچ معنیای نداره.
858
01:05:45,524 --> 01:05:47,485
چین یه نقشهی جاهطلبانه کشیده
859
01:05:47,568 --> 01:05:49,111
تا سال ۲۰۳۰ تو هوش مصنوعی رهبر جهان بشه.
860
01:05:49,195 --> 01:05:51,656
این یه رقابتیه که خیلیا میگن آمریکا داره توش میبازه...
861
01:05:52,740 --> 01:05:56,160
اون سرعتِ استفاده از هوش مصنوعی رو بیشتر میکنه
862
01:05:56,243 --> 01:05:59,246
تا برتریِ نظامیمون تو رقابت رو تضمین کنه.
863
01:06:02,875 --> 01:06:05,461
ما با تمام سرعت داریم با این تکنولوژی جلو میریم.
864
01:06:05,544 --> 01:06:08,673
چیزی که هنوز روشن نیست، اینه که تا کجا قراره پیش بریم؟
865
01:06:09,507 --> 01:06:12,760
ما تکنولوژی رو کنترل میکنیم یا اون داره ما رو کنترل میکنه؟
866
01:06:14,136 --> 01:06:16,973
واقعاً هیچ راه برگشتی وجود نداره.
867
01:06:17,807 --> 01:06:20,977
غول که از چراغ بیاد بیرون، دیگه در رفته.
868
01:06:22,019 --> 01:06:25,189
و خیلی خیلی سخته که دوباره برگردونیش تو چراغ.
869
01:06:28,609 --> 01:06:31,737
اگه همین الان کاری نکنیم، دیگه دیر میشه.
870
01:06:33,114 --> 01:06:34,657
شایدم همین الانشم دیر شده باشه.
871
01:06:35,114 --> 01:06:55,657
بی سی موویز، مرجع دانلود فیلم و سریال با زیرنویس چسبیده
BcMoviez.Com
t.me/BcMoviez