- Алан Тьюринг предложил тест для определения, может ли машина мыслить.
- Две ключевые посылки Тьюринга стали причиной кризиса доверия к ИИ.
- Тьюринг считал, что разум может существовать независимо от тела и машина может считаться разумной, если успешно имитирует человека.
- Питер Деннинг утверждает, что попытки создания сильного искусственного интеллекта (AGI) вряд ли увенчаются успехом.
- Деннинг выделяет пять категорий невыраженного знания, недоступного для машинного обучения: здравый смысл, повседневные взаимодействия, эмоции, восприятие, практические навыки, культурно-исторический контекст.
- Языковые модели, такие как ChatGPT, не понимают значения слов, а контекст и культура не могут быть просто «загружены» в нейросеть.
- Машины и люди развивают разные формы невыраженного знания, которые не смогут понять друг друга.
- Деннинг призывает признать, что будущее с интеллектуальными машинами туманно, и отказаться от мышления как машины или служения им.
Он выделяет пять категорий такого знания: здравый смысл, повседневные взаимодействия, эмоции и восприятие, практические навыки и культурно-исторический контекст. Все они — вне досягаемости для алгоритмов машинного обучения.
Языковые модели вроде ChatGPT, Claude или Gemini оперируют словами, но не понимают их значения. За каждым словом стоит глубочайший пласт невыраженного знания, который придает ему смысл. Контекст, сарказм, дипломатичность, юмор — все это уходит корнями в бесконечную цепочку предыдущих разговоров и ситуаций. Культура — с ее ценностями, нормами, историями и отношениями — не может быть просто «загружена» в нейросеть.
«У машинного интеллекта иные приоритеты, нежели у нас, и, по-видимому, мы его не волнуем, — заявил Деннинг. — Его способы мышления и решения задач кажутся нам чуждыми. Мы пока не знаем, как безопасно сосуществовать с этими машинами».