tldr_tany (Таня Савельева)

Не смотря ни на что, Москва - это мой любимый город в мире

Deep contextualized word representations https://arxiv.org/pdf/1802.05365.pdf за наводку спасибо @annapotapenko Когда 15 февраля 2018 года В чем понт Для того, чтобы решать задачи nlp, надо уметь получать хорошие векторные представления слов, которые будут моделировать семантику, синтаксис и омонимию (например слово ‘лук’ может нести 2 смысла, для которых надо использовать разные вектора). При этом здорово использовать и нагенерированный человечеством массив информации, и уметь быстро приспосабливаться под локальные особенности задачи и текста. Что и сделали авторы, побив state of the art в 6 задачах nlp на 6-20% (например, анализ тональности, выделение частей речи) Подробности Для каждого токена (слова или некоторого количества символов) хочется получить несколько векторов, чтобы потом для каждой задачи скомбинировать их оптимальным образом, то есть просто выучить веса, с которыми их нужно складывать (что позволит учесть локальные особенности текста и задачи, омонимию) Такие вектора для каждого токена получаются обучением LSTM прямого и обратного распространения. Forward LSTM учится предсказывать вероятность токена при условии предыдущих токенов и скрытых состояний сети, backward - при условии следующих, суммарный лосс получается сложением лоссов forward и backward. Для каждого токена используется такие сети forward и backward LSTM каждая с L слоями, соответственно нулевое состояние - это Glove вектор, который пока не учитывает контекст, последнее состояние используется для предсказания следующего токена. На выходе для каждого токена получим набор векторов, состояний всех слоев forward и backward LSTM, которые осталось только сложить с нужными весами. Веса мы уже учим на конкретной задаче и данных (например, для слова три среди векторов будет часть векторов, близких к слову два и мой, вектора, отражающие глагол это или числительное, вектора, из которых можно понять эмоциональную окраску текста)

первый пост из этого канала разбор статьи по наводке моего научрука Ани Потапенко, которая кстати после этого в дипмайнде сделала легендарную статью про ИИ и докинг белков

Про личный бренд и сузиться до одной темы. У меня потихоньку растет телеграм-канал и личный бренд и меня периодически дают совет: чтобы быстрее расти мне нужно сфокусироваться на одной теме. Например, говорить про искусственный интеллект, в которром у меня 10 летний опыт на много миллионов и кейсов, чтобы люди четко понимали, зачем на меня подписываться, и можно было нормально закупать рекламу. И я с этим согласна, что, возможно, так расти действительно быстрее. А я сейчас пишу и про ИИ, про книги, про то, как мы делаем агенство, про материнство, про хобби, про спорт и путешествия, и про инвестиции и вообще левые философские мысли. Но я думаю, что для меня это правильная стратегия, потому что у меня нет чётко формализованной цели, зачем я веду социальные сети. Скорее, я их веду для того чтобы притягиваться с какими-то похожими, близкими по духу людьми, и если я буду сужать себя за одной темой, это будет неправдой и будет чувсвоваться. И мне будет не в кайф вести контент Я заводила этот канал когда-то давно с четким форматом - задротский разбор статей по машинному обучению. Я описывала слои сеток, математические хаки, выводы, прогнозы. То есть это был очень жёсткий ИИ рисерч. Потом, когда я уже стала СЕО бизнеса и думала уже про выручку, про продуктовые метрики, я очень сильно выросла из этого формата. То есть я до сих пор иногда разбираю статьи, и даже пишу об этом сюда, но это не составляет 90-80% моей деятельности. Я переделала формат канала с узко экспертного на личный, и я помню, что это решение далось мне очень тяжело. Мне казалось, что все от меня отпишутся, потому что подписывались за другим и больше половины канала, кто читал не знал меня как личность и даже имени не знал. Это правда, отписалось очень много людей, и в этот момент канал чуть ли не умер. Это про то, что я стала заложником своих тэгов и столкнулась с кризисом идентичности, который наблюло несколько тысяч человек В общем стратегия не сужать себя под формат действительно более устойчивая, потому что все люди меняются, особенно сейчас. И актуальность экспертизы также меняется, а ценности остаются Я знаю, что многие не хотят заводить соцсети, потому что надо начинать сужаться, а это сложный выбор В общем, друзья, - я считаю, что по состоянию на сегодняший день сужаться не надо, если не хочется и нет бизнес понимания зачем. Другое дело, если есть бизнес модель, например я рассказываю про свою компанию и поднимаю на нее деньги. Тогда очень понятно, почему не стоит писать про материнство. Но тоже и тут можно совмещать и искать трейд офф, если не хочется При этом мне особенно интересно читать людей, которые отзываются по ценностям и вайбам - и читаю некоторых из них годами.

Вообще Лена очень крутая и я считаю role model - мама 2 подростков, старший уже Летово заканчивает, фаундер компании Invisible Force, которая строит корпоративную культуру в российских корпорациях вроде Северстали, Теле2, Самоката, амбассадор Стенфорда официальный про долголетие, очень шарит за медитации, спорт, веллнесс, прихологию, инновации И помимо прочего несет экспертность вместе с очень близкими мне ценностями Короче обязательно подпишитесь на нее @heyho_chernikova чтобы впитывать сильные и правильные вайбы

Классный пост от Лены и правильные 5 вопросов https://t.me/heyho_chernikova/1422 Очень много сейчас в поле про лейоффы и в целом вайб такой, что сотрудники это как винтики, которых нужно оптимизировать и культура - это как будто пережиток прошлого. Если не включать этическую сторону вопроса, то даже экономически это глупо, потому что даже в эру ИИ (и тем более в эру ИИ), компании делают сильные люди и культура. По сути со скоростью изменений это основное, что остается, и 5 вопросов в посте, которые надо себе задать, очень правильные.

Какое стоп слово вы бы сделали для разговоров про ИИ?

Ребят, ищу себе еще личного ассистента, можете в форму плз закинуть заявку, если вам интересно В шапке формы также описание вакансии, чтобы тут не спамить https://docs.google.com/forms/d/15ASp_NQFyF9vqOntFLnoFYYXCYi9VKAi2KJJIBXGAgA/edit Если вы когда-то кидали заявку и я не ответила, все равно закиньте плз - это 2 минуты. Я к сожалению совсем не успеваю всем отвечать, потому что заявок много, но возможно потом вернусь к вашей заявке и все формы храню обязательно. Кстати, как найму ассистента, возможно получится отвечать всем, кто подается на вакансии Поэтому ассистент найдись

У меня 3 новости: 1. В декабре будет второе прибавление в нашей семье 2. Это девочка 3. Я очень счастлива

Лирический пост, друзья Остановились в отеле, пока в дом делают деревянные ступеньки Как же я люблю в путешествиях, моменты, когда просыпаешься раньше всех в 5-6 утра, идешь к огромному бассейну или просто спускаешься во дворик или в сад, где еще нет вообще никого и тишина, берешь чашечко эспрессо, залипаешь в вечное. Как будто ты один в мире. И все привычное отодвигается, проблемы и вызовы отходят на второй план, как будто тебе снова пять лет и впереди бесконечность, и ничего непонятно и в этом есть кайф. И ты думаешь, если у меня будет дальше вот эта привычка рано вставать, пить чашечку кофе и сидеть в этой тишине и пустоте, то наверное это главная опора и даже неважно где я на самом деле, в отеле, квартире или на скамеечке у общежития как в студенчестве, это и есть чистый кайф