Книга «What is ChatGPT Doing… and Why Does It Work?»

Stephen Wolfram. What Is ChatGPT Doing… …and Why Does It Work?
Wolfram Media, Inc., 2023 — 102 с.
ISBN 978-1-57955-081-3

Эта книга создана на основе большой одноименной статьи Стивена Вольфрама. Не исключаю, что это вообще первая подобная публикация на эту тему.

Со свойственным ему научным подходом автор объясняет, каким образом происходит генерация текста, какие параметры (например, так называемая температура) влияют на качество и разнообразие результата, как сложно получить осмысленный текст, и т.д.

Возможно, прочитав эту книгу, у читателя прояснится главная мысль о том, что GPT — это не интеллект, который знает ответы на все вопросы, а машина, которая может поддержать любой разговор. В частности, если человек задает вопрос, то GPT формирует в некотором роде продолжение этого вопроса, в котором и будет содержаться ответ. Это, кстати, раз и навсегда проясняет, почему соответствующий метод API называется Completion. Чатик «просто печатает продолжение».

Книга небольшого объёма, и в принципе прочитать её не составляет труда, но понимать содержание местами может оказаться сложно. Если вы читали (или пытались) книгу Вольфрама про новую науку, вы понимаете, о чём я.

Для своего времени — как первая книга о внутреннем устройстве ChatGPT — отличное приобретение.

Книга «Developing Apps with GPT-4 and ChatGPT»

Olivier Caelen, Marie-Alice Blete. Developing Apps with GPT-4 and ChatGPT. Build Intelligent Chatbots, Content Generators, and More.
O’Reilly, 2023 — 148 с.
ISBN 978-1-098-15248-2

Это одна из первых книг о приложениях, которые можно создать, используя ChatGPT как машину для генерации текстов.

В книге кратко описывается история GPT-моделей от первой до четвертой версии, о том, что такое LLM вообще и как происходит генерация текста. Рассмотрен подход к использованию API, об управлении ключами доступа, созданию запросов и разбора ответов, подсчету стоимости и пр.

В третьей главе разобраны четыре проекта: генератор новостей, программа, генерирующая саммари видео с ютуба, создание эксперта и голосовой помощник.

Далее описаны идеи о том, как конструировать наиболее эффективные промыты, а потом еще более краткий экскурс по более сложным темам: fine-tuning, плагины, использование память и своих документов.

В целом неплохая книга сама по себе для общего развития, хотя практическая часть и сводится к часто очевидным вещам. Может быть полезна для того, чтобы получить общий обзор возможностей API ChatGPT.

Книга «Kafejnīca “Kāpēc”»

Džons Streleckis. Kafejnīca “Kāpēc”.
Riga: Zvaigzne ABC Publishers, 2017
ISBN 978-9934-0-6821-8

Это перевод с английского книги Джона Стрелеки «The WHY Cafe», видимо она же теперь называется «The Cafe on the Edge of the World: A Story About the Meaning of Life». В русском переводе — «Кафе на краю земли. Как перестать плыть по течению и вспомнить, зачем ты живешь».

На удивление неплохая небольшая книга, которую можно отнести одновременно к обычной, и к мотивационной литературе. Герой (автор же), заблудившись на дороге по пути в отпуск, попадает в расположенное непонятно где кафе, обнаруживает там на странице меню жизненные вопросы, проводит в кафе ночь, беседуя с владельцем, официанткой и гостями, и навсегда меняет свою жизнь.

Это первая книга автора; её перевели на 25 языков. Стоит ли читать остальные книги, названия которых уже более откровенно мотивационные, я не знаю.

Но книгу про кафе прочитать стоит по-любому.

Книга «Поймать вавилонскую рыбку»

Яна Хлюстова. Поймать вавилонскую рыбку. Человеческий мозг, нейтронные сети и изучение иностранных языков.
М.: Альпина нон-фикшн, 2024. — 248 с.

Новая книга на русском про языки, устройство мозга и применение искуственного интеллекта к задаче перевода.

Это довольно широкий обзор многих сторон — как самого наличия речи у человека, так и того, может ли человек быть вытеснен компьютером в будущем.

В книге восемь глав, примерно первая половина посвящена описанию того, как вообще работает речь в мозгу, есть ли она у животных, как люди изучают родной и особенно иностранные языки, как работают синхронные переводчики и устают ли они.

Приведены описания интересных экспериментах, в которых пытались выявить разные тонкости работы языка в мозге. Пара слов про то, насколько изучение языка может сначала напрягать мозг, а затем всё упрощается настолько, что для перевода почти не требуется усилий.

Вторая половина книги посвящена истории машинного перевода начиная с докомпьютерного времени и заканчивая автоматизированными переводчиками на основе ИИ (AI). Возможно, в этих главах не особо видно, насколько хорош ChatGPT, но, видимо, книга была написана чуть раньше.

В общем и целом — интересная книга для общего развития.

Книга «Государство строго режима»

Джефри Кейн. Государство строгого режима. Внутри китайской цифровой антиутопии.
М.: Индивидуум, 2023. — 336 с.
ISBN 978-5-6048295-7-8

Это перевод книги 2021-го года Geoffrey Cain «The Perfect Police State. An Undercover Odyssey into China’s Terrifying Surveillance Dystopia of the Future».

Книга написана как результат разговоров автора-журналиста с жителями и многочисленными беженцами из Китайского Синьцзяня, где китайское руководство притесняет уйгуров. Заголовок, поэтому, возможно, не полностью раскрывает содержание: все факты и рассказы в основном касаются слежки и гонений именно уйгуров, а не вообще всего населения Китая. Как внутри страны, так и за рубежом.

В книге двадцать глав, в которых речь идет о том, как сформировалась современная система электронного наблюдения, которая позволяет выслеживать людей и в целом вести подробный учёт их передвижений и занятий. Начиная от пропусков на территорию дома и заканчивая «социальным рейтингом», в зависимости от уровня которого люди могут быть ограничены в услугах.

Большинство историй на протяжении всей книги касается двух-трёх героев, с которыми автор провел много времени, записывая их рассказы. Попутно делаются более или менее философские замечания, например, насколько прогресс технологий имеет самостоятельную ценность или насколько он в итоге помогает государству решать свои интересы. Отдельный вопрос, насколько технологические компании задаются вопросами морали, когда начинают сотрудничать с государством, в том числе иностранным.

Прогулки по Европе Зализняка

Нестор-История
Москва • Санкт-Петербург, 2018
ISBN 978-5-4469-1350-3
272 с.

На одном дыхании прочитал книгу под названием «Прогулки по Европе», которая является сборником путевых заметок А. А. Зализняка.

Оказывается, он с 1956 по 57-й один год учился в Париже и уже потом смог туда поехать только в 1988 году. Собственно, заметки охватывают те пятидесятые годы и годы с 1988 по 2003.

Я не знал, что он читал лекции и во Франции, и в Италии, причем и на французском, и на итальянском языках. Удивительно и восхитительно.

По поводу его французского был такой эпизод с одним из лекторов в Париже еще во время учебы:

«На вопрос о профессии я ответил Рену: студент‐ лингвист. „Лингвист? — сказал он. — Не может быть!“ Я был поражен: „Как? Почему?“ — „Потому что вы хорошо говорите по‐французски!“ — „Так и что же?“ — „Но лингвисты же не говорят на иностранных языках! Это же абсолютно разные способности. Мой великий учитель Антуан Мейе не мог говорить даже по‐английски!“»

Первую лекцию, которую его попросили прочитать по-итальянски, он написал на бумаге и собирался читатать с листа, но перед самым началом узнал, что ограничен по времени, и материал придется как-то сократить вдвое.

«Положил перед собой часы и начал читать написанный текст. Стресс с каждой фразой нарастал — от ощущения, что я загоняю себя в ловушку. Бессознательно стала увеличиваться скорость. Чувство погони не отпускало. А у меня все еще даже не перевернута первая страница! И вдруг в какой‐то момент осознал, что уже не иду по письменному тексту, а говорю что‐ то от себя. Это было похоже на отрыв от земли при взлете — только момент отрыва я от волнения не заметил. И дальше этот неустойчивый полет продолжался, причем все время с той же подхлестнутой скоростью — уже не потому, что боялся не уложиться, а от инстинктивного чувства, что останавливаться и даже замедляться нельзя, что от паузы чудо может исчезнуть».

Или вот второй момент, уже каким-то чудом он беседовал по-польски.

«Внутри никого нет — ни посетителей, ни хозяев. Сажусь. Не сразу, но всё же выходит хозяйка. И после первой пары фраз вдруг „Pan rozmawia po polsku?“ Все дальнейшее уже шло только по‐польски — уж как сумел. Потом осознал, что в эту польскую забегаловку кроме поляков редко кто заглядывает — разве что как я, по ошибке». 

В книге много личных ощущений от посещения Европы и в те годы, и уже в наши. Очень интересно.