машинный интелект: Четвертая мировая

Мысли и размышления о развитии ОС Linux, открытого софта в целом, его общих свойствах, обсуждения всяких околопингвиньих новостей и баек.

Модераторы: Olej, adminn

Правила форума
Все сообщения не по теме форума будут, без каких либо уведомлений, удаляться, а их авторы - убираться из регистрации.
Язык сообщений - исключительно русский.
Аватара пользователя
Olej
Писатель
Сообщения: 21338
Зарегистрирован: 24 сен 2011, 14:22
Откуда: Харьков
Контактная информация:

машинный интелект: Четвертая мировая

Непрочитанное сообщение Olej » 29 мар 2023, 16:20

Илон Маск и еще более 1000 экспертов в области ИИ потребовали запретить обучать нейросети
29 марта, 13:09
photo_2023-03-29_16-25-25.jpg
photo_2023-03-29_16-25-25.jpg (34.06 КБ) 496 просмотров
НЬЮ-ЙОРК, 29 марта. /ТАСС/. Илон Маск вместе с более чем 1000 экспертов в области искусственного интеллекта (ИИ) потребовал ввести мораторий на обучение мощных нейросетей, так как неконтролируемый процесс в этой области может представлять угрозу для человечества. Об этом говорится в открытом письме экспертов в области ИИ, опубликованном 22 марта на сайте некоммерческой организации Future of Life Institute ("Институт будущего жизни").

"Мы призываем все лаборатории ИИ немедленно приостановить как минимум на 6 месяцев обучение систем ИИ, более мощных, чем GPT-4. Об этом перерыве необходимо объявить публично, его исполнение должны быть проверяемым и охватывать всех ключевых участников отрасли. Если такая пауза не может быть сделана в кратчайшие сроки, то правительства должны вмешаться и ввести мораторий", - говорится в письме.

Подписанты полагают, что лаборатории ИИ и независимые эксперты должны использовать эту "передышку" для совместной разработки и внедрения набора общих протоколов безопасности. Это необходимо для проектирования и разработки передовых систем ИИ, которые можно будет проверять и контролировать независимыми внешними экспертами.

Параллельно эксперты предлагают изменение в политической сфере, чтобы создать новые регулирующие органы, занимающиеся вопросами ИИ, а также системы контроля на государственном уровне, которые могли бы обеспечить безопасность новых систем.

Среди тех, кто подписал открытое письмо помимо Маска есть такие именитые специалисты как один из основателей Apple Стив Возняк, ведущие эксперты в области искусственного интеллекта Стивен Расселл и Иошуа Бенджио, а также еще более 1100 крупнейших специалистов в области информационных технологий и машинного обучения.

Американская компания OpenAI представила в середине марта новое поколение алгоритма по обработке естественного языка - мультимодальную модель GPT-4, которая, как утверждают ее авторы, намного превосходит предыдущую версию GPT-3.5. Так, GPT-4 наделена большей "креативностью" и более надежна в использовании, она умеет обрабатывать более детализированные запросы. По внутренним оценкам фактичности, или достоверности, она превосходит GPT-3.5 на 40%. Как пример компания приводит тест на адвоката - симулятор, по которому оценивались обе нейросети. Результаты теста GPT-4 оказались примерно в 10% лучших, а GPT-3.5 - в 10% худших.

Аватара пользователя
Olej
Писатель
Сообщения: 21338
Зарегистрирован: 24 сен 2011, 14:22
Откуда: Харьков
Контактная информация:

машинный интелект: Четвертая мировая

Непрочитанное сообщение Olej » 29 мар 2023, 16:33

Olej писал(а):
29 мар 2023, 16:20
Илон Маск и еще более 1000 экспертов в области ИИ потребовали запретить обучать нейросети
Бенгио, Маск и Возняк призвали приостановить обучение систем ИИ мощнее GPT-4
В письме говорится, что системы искусственного интеллекта с «человеко-конкурентным интеллектом» могут нести «серьёзные риски для общества и человечества». В нём содержится призыв к лабораториям приостановить обучение на шесть месяцев.
Вот полный текст письма:
...



Аватара пользователя
Olej
Писатель
Сообщения: 21338
Зарегистрирован: 24 сен 2011, 14:22
Откуда: Харьков
Контактная информация:

машинный интелект: Четвертая мировая

Непрочитанное сообщение Olej » 18 мар 2024, 19:01

Достаточно интересное сообщение:
Стартап xAI, который Илон Маск запустил летом 2023 года, опубликовал исходный код своего чат-бота Grok. Сторонние разработчики могут использовать его для создания собственных сервисов и чат-ботов.
— Исходный код модели весом 296 ГБ доступен (https://github.com/xai-org/grok-1) для скачивания на GitHub, в репозитории есть всё необходимое для запуска нейросети, включая инструкцию и рекомендации
Это любопытное занятие ... для кого-то из молодёжи - это может стать началом ... профессии.

Ответить

Вернуться в «Общий по Linux и открытому софту»

Кто сейчас на конференции

Сейчас этот форум просматривают: нет зарегистрированных пользователей и 1 гость