Где-то там наверху начали изучать базу про нейросети и, как следствие, на ВЭФ (Восточный экономический форум) прозвучали занимательные реплики. Вот, послушайте: По поводу того, что ИИ воспринимается как всеобщее благо – нечто бесплатное или почти бесплатное, что к нам пришло и которым мы пользуемся для бесконечного повышения своей эффективности. Это помощник во всех делах – в делах, которые невозможно доверить человеку, и, конечно, это чудо. Но поскольку оно бесплатно или почти бесплатно, мы забываем, что являемся по сути сырьем для обучения этих алгоритмов. Каждый наш запрос, каждая наша цифровая активность развивает его дальше Вроде бы база и даже в справках LLM об этом прямо говорится — например, в ChatGPT есть настройка «улучшение модели», которая позволяет добровольно передавать обезличенные данные для обучения нейронки. Я не знаю, насколько правдиво «отключение» этой функции, и предпочитаю думать, что всё, что попало в нейронку — там и останется и будет обрабатываться. Но т.к. для спецслужб России и Америки я не представляю никакого интереса, мне на это глубоко по-барабану. Было ещё и такое утверждение: Дело в том, что OpenAI, ChatGPT автоматически передает все данные запросов на русском языке, включая полный цифровой отпечаток аккаунта: кто спрашивает, что спрашивает, зачем. Без запросов со стороны спецслужб – просто автоматически. В этом году ведущие директора по развитию компаний, занимающихся развитием платформ искусственного интеллекта – Anthropic, Google и многих других – получили звания офицеров Пентагона американских вооруженных сил по развитию искусственного интеллекта — честно сказать, звучит как «пугалка», да и пруфов хотелось бы. А то под званием «эксперта» можно будет нести любую чушь, и даже проверять не нужно... Но ладно, с нейронками есть другая проблема. Многие слышали новость, в которой рассказывается, как нейронка «помогла» одному мужчине отправить на тот свет свою мать. У человека были не все дома, он много общался с ChatGPT и тот всячески его поддерживал, в том числе и в бредовых умозаключениях. С одной стороны это похоже на правду — ChatGPT превратился в машину «кивания» и соглашается со всем, что ему сказано + в ответах всё чаще оперирует данными вопроса, чем отвечает. С другой стороны — у ChatGPT куча «отсечек» — начиная от отказа работать с лицами реальных людей, до табуирования каких-либо тем. Почему не сработала «отсечка» на явные отклонения — не ясно. В этой истории что-то не чисто. Это я к чему: опасения использования нейронок на темы медицины, психологии и прочих чувствительных вещей вполне реальны и тут нужно быть предельно осторожными. Фактчекинг — наше всё.