Спасибо за пост. И присоединяюсь к поздравлениям с днём рождения.
Разделяю ваши опасения. Хотя, с другой стороны, получается просто на ещё одного невежду больше (интеллект получился больше искусственный, чем интеллектуальный). Те, кто научился критически мыслить, будут с недоверием относиться и к ИИ, а те, кто не научился, будут и бабке на вокзале верить.
1. Пока никакого ИИ (в своем подлинном смысле) не существует. Если я правильно понимаю методологию работы этих без сомнения революционных инструментов - то, что есть сейчас это "калькулятор" текста, последовательно генерирующий формально наиболее вероятные значения слов в определенном контексте. Создающий какой-то "усредненный" по всем массивам текст, наподобие средней температуры по больнице.
Если математический бредогенератор создает какие-то квазиосмысленные текстовые последовательности - это не превращает бредогенератор в интеллект. Он его только имитирует. Пока не научились индексировать и ранжировать непосредственно знания, смыслы и ложь/истину, а также связно оперировать ими - говорить не о чем. Ниша того, что существует - прорывной инструмент в ассистировании, как об этом и заявляется изначально.
2. Несмотря на наличие "очень низкого среднего интеллекта человека, его невежества и, в силу невежества, религиозного сознания" до создания своего дискурса каждой целевой группе этому ИИ очень-очень
( ... )
1. Я не утверждаю, что можно ограничть развитие ИИ заклинаниями и законами. Я просто отмечаю, к чему призывает Маск.
2. последовательно генерирующий формально наиболее вероятные значения слов в определенном контексте.
Так-то так. Но контекст определяется автоматически исходя из весьма общих оснований. По крайней мере, тест на понимание контекста chatGPT проходит. Я проверял.
Отсюда до реального ИИ очень близко. Очень. В совокупности с разпознаванием образов, что, собственно, создает контекст плюс актуаторы... Беспилотные автомобили - это очень сильный пример, допускаюбщий обощения. По существу, система ставит свои цели исходя из контекста. Это разум. Остается только универсализация: чтобы система управления автомобилем была частностью.
Возможно мы по разному понимаем что есть разум и ИИ.
1. Контекст chatGPT тупо вычисляет на основе заложенных инструкций и весовых коэффициентов. И это не самая сложная часть работы данного конкретного алгоритма. Когда говорят про "понимает контекст" - это когнитивное искажение (антропоморфизм), приводящее к ошибочным выводам. Ничего он не "понимает". Даже если вы четко осознаете, что железяка ничего понимать не может, все равно ваши эмоции, удивление и впечатление от собственноручно проведенного теста Тьюринга искажают восприятие и замыливают реальность.
2. Нужно уточнить понятия. Лично я говорил про то, что называют "сильный ИИ". Который, собственно только и можно называть "интеллект" и которого и близко нет. Наверное более правильно его было бы называть "искусственный разум" обязательно включающий в себя и то, что можно было бы назвать "искусственное сознание". В этом случае - да, совершенно точно определенная осторожность и регулирование в этой сфере явно не помешала бы.
Но тут пока всё очень далеко от реализации. Лично я считаю
( ... )
Во-первых, "понимает" гпт то что он пишет или "не понимает" не имеет содержательной разницы, т.к. то, что он выдаёт, от этого не меняется никоим образом.
Во-вторых, о вашем "сильном ИИ". Человек очень большого мнения о своем интеллекте, мол пока машина не сможет смешно пошутить или влюбиться, она всего лишь машина. Но многие аспекты, которым человек любит кичиться, на самом деле не нужны для 99% задач. И вы можете уметь влюбляться и гордиться этим, а ГПТ в это время может научиться вашей профессии и отправить вас в ряд безработных.
И в-третьих, человек вообще свой интеллект рассматривает через призму социума. Мол 80 айкью это "ну тупоооой", а "120 айкью" это "вот это да". ГПТ же этот этап от 80 до 120 во многих видах деятельности может пролететь так быстро, что вы глазами хлопнуть не успеете. И абсолютно не нужен "сильный ИИ" для полного изменения мира. Достаточно ИИ в определенных направлениях. В момент когда он превзойдет среднего человека, в следующий момент он уже будет настолько выше него, что нам он будет как до луны.
Comments 64
Reply
Сергей Леонидович, с Днём Рождения,
Здоровья и удачи на долгие годы !!
Reply
Разделяю ваши опасения. Хотя, с другой стороны, получается просто на ещё одного невежду больше (интеллект получился больше искусственный, чем интеллектуальный). Те, кто научился критически мыслить, будут с недоверием относиться и к ИИ, а те, кто не научился, будут и бабке на вокзале верить.
Reply
Проблема, что в перспективе другой информации не будет. Причем она будет таргетированной и отличить феку от реальности станет практически невозможно.
Reply
Все гораздо сложнее, т.к. у ИскИна могут быть и друзья. Из элит.
Reply
Маска не читал, но осуждаю.
1. Пока никакого ИИ (в своем подлинном смысле) не существует. Если я правильно понимаю методологию работы этих без сомнения революционных инструментов - то, что есть сейчас это "калькулятор" текста, последовательно генерирующий формально наиболее вероятные значения слов в определенном контексте. Создающий какой-то "усредненный" по всем массивам текст, наподобие средней температуры по больнице.
Если математический бредогенератор создает какие-то квазиосмысленные текстовые последовательности - это не превращает бредогенератор в интеллект. Он его только имитирует. Пока не научились индексировать и ранжировать непосредственно знания, смыслы и ложь/истину, а также связно оперировать ими - говорить не о чем. Ниша того, что существует - прорывной инструмент в ассистировании, как об этом и заявляется изначально.
2. Несмотря на наличие "очень низкого среднего интеллекта человека, его невежества и, в силу невежества, религиозного сознания" до создания своего дискурса каждой целевой группе этому ИИ очень-очень ( ... )
Reply
1. Я не утверждаю, что можно ограничть развитие ИИ заклинаниями и законами. Я просто отмечаю, к чему призывает Маск.
2. последовательно генерирующий формально наиболее вероятные значения слов в определенном контексте.
Так-то так. Но контекст определяется автоматически исходя из весьма общих оснований. По крайней мере, тест на понимание контекста chatGPT проходит. Я проверял.
Отсюда до реального ИИ очень близко. Очень. В совокупности с разпознаванием образов, что, собственно, создает контекст плюс актуаторы... Беспилотные автомобили - это очень сильный пример, допускаюбщий обощения. По существу, система ставит свои цели исходя из контекста. Это разум. Остается только универсализация: чтобы система управления автомобилем была частностью.
Reply
Возможно мы по разному понимаем что есть разум и ИИ.
1. Контекст chatGPT тупо вычисляет на основе заложенных инструкций и весовых коэффициентов. И это не самая сложная часть работы данного конкретного алгоритма. Когда говорят про "понимает контекст" - это когнитивное искажение (антропоморфизм), приводящее к ошибочным выводам. Ничего он не "понимает". Даже если вы четко осознаете, что железяка ничего понимать не может, все равно ваши эмоции, удивление и впечатление от собственноручно проведенного теста Тьюринга искажают восприятие и замыливают реальность.
2. Нужно уточнить понятия. Лично я говорил про то, что называют "сильный ИИ". Который, собственно только и можно называть "интеллект" и которого и близко нет. Наверное более правильно его было бы называть "искусственный разум" обязательно включающий в себя и то, что можно было бы назвать "искусственное сознание". В этом случае - да, совершенно точно определенная осторожность и регулирование в этой сфере явно не помешала бы.
Но тут пока всё очень далеко от реализации. Лично я считаю ( ... )
Reply
Во-первых, "понимает" гпт то что он пишет или "не понимает" не имеет содержательной разницы, т.к. то, что он выдаёт, от этого не меняется никоим образом.
Во-вторых, о вашем "сильном ИИ". Человек очень большого мнения о своем интеллекте, мол пока машина не сможет смешно пошутить или влюбиться, она всего лишь машина. Но многие аспекты, которым человек любит кичиться, на самом деле не нужны для 99% задач. И вы можете уметь влюбляться и гордиться этим, а ГПТ в это время может научиться вашей профессии и отправить вас в ряд безработных.
И в-третьих, человек вообще свой интеллект рассматривает через призму социума. Мол 80 айкью это "ну тупоооой", а "120 айкью" это "вот это да". ГПТ же этот этап от 80 до 120 во многих видах деятельности может пролететь так быстро, что вы глазами хлопнуть не успеете. И абсолютно не нужен "сильный ИИ" для полного изменения мира. Достаточно ИИ в определенных направлениях. В момент когда он превзойдет среднего человека, в следующий момент он уже будет настолько выше него, что нам он будет как до луны.
Про ваши ( ... )
Reply
Leave a comment