Когда я был там в прошлом месяце, я видел, как Питер Норвиг выступал перед широкой аудиторией об ИИ в Беркли. Несколько заметок из его выступления.
- «Мы всегда отдавали предпочтение быстроте и дешевизне, а не безопасности и конфиденциальности — может быть, на этот раз мы сможем сделать лучший выбор».
- Он кратко показал демонстрацию, в которой при заданных значениях полинома машина может составить несколько строк кода, которые успешно вычисляют полином. Но код выглядит странно для человеческого глаза. Чтобы вычислить какое-то квадратичное число, он вкладывает циклы for и складывает вещи забавным образом, что в конечном итоге дает правильный результат. Так действительно ли он выучил многочлен? Я думаю, что в компьютерных науках вы обычно чувствуете, что выучили функцию, если можете точно предсказать ее значение на заданном входе. Для такого алгебраиста, как я, функция определяет, но не определяется значениями, которые она принимает; для меня есть что-то в этом квадратном многочлене, которое машина не смогла понять. Я не думаю, что здесь есть правильный или неправильный ответ, просто культурная разница, о которой нужно знать. Актуально: описание Норвигом двух культур в конце этого длинного поста об обработке естественного языка (интересно на всем протяжении!)
- Норвиг отметил, что традиционные компьютерные программы очень модульны, что привело к очень успешной традиции отладки, заключающейся в том, чтобы сосредоточиться на той части программы, которая делает что-то неправильно, а затем исправить эту часть. Алгоритм или процесс, разработанный машиной, напротив, может не иметь разборчивых «частей»! Если нейронная сеть дает сбои при классификации чего-либо, нет осмысленного способа сказать: «Этот нейрон — проблема, давайте это исправим». Мы имеем дело с крайне немодульными сложными системами, которые эволюционировали до неоптимально функционирующего состояния, и вам нужно найти способ улучшить функционирование, не требующий разборки и замены сломанного компонента. Конечно, у нас уже есть большое профессиональное сообщество, которое занимается именно этой проблемой. Их называют терапевтами. И мне интересно, будет ли будущее отладки больше похоже на клиническую психологию, чем на современную разработку программного обеспечения.
Теги ai, google, машинное обучение, питер норвиг
Первоначально опубликовано на сайте quomodocumque.wordpress.com 6 марта 2017 г.
