01 февраля 2023
Инфраструктура data science: хранилища данных, ПО, витрины, озёра и важные скиллы
4

Содержание выпуска: — Из каких компонентов состоит инфраструктура data science в идеальном варианте и как компании её выстроить. — Из каких источников в систему приходят сырые данные. — Куда данные сохраняются и в каком виде. — Как предварительно обрабатываются и готовятся данные. — Как отбираются данные для обработки и анализа. — Как происходит анализ в DS и чем он отличается от традиционной аналитики. — Какие решения и инструменты существуют для анализа и изучения данных в data science. — Витрины, озёра данных, Kafka, S3, Hadoop и всё остальное. — Чем занимается отдел data science. Какие роли связаны с data science. — Как правильно формулировать задачу для специалистов по data science, какие ошибки в формулировках задач могут встречаться. — Насколько data science — это программирование. Чем задачи и стиль программирования специалистов по data science отличаются от задач и стиля программирования обычных разработчиков. — Какие языки и для каких задач используются. — Что необходимо знать специалисту для первой работы. Кто такие мидлы и сеньоры. — Какие зарплаты, специализации и перспективы есть в data science. Полезные ссылки: — Apache Spark https://spark.apache.org — Apache Hadoop https://hadoop.apache.org — Язык программирования Scala https://skillboxcode.mave.digital/ep-35 — Amazon Simple Storage Service (S3) https://aws.amazon.com/ru/s3 — Redis https://ru.wikipedia.org/wiki/Redis — MLflow https://mlflow.org — CI/CD https://ru.wikipedia.org/wiki/CI/CD — Apache Kafka https://kafka.apache.org — Debezium https://debezium.io — Micro Batching https://bit.ly/40gr29I — Витрина данных https://bit.ly/40h0tkO — Слои в data science https://bit.ly/3JuwFes — REST API https://bit.ly/3Jsrrjh — Модель вычислений MapReduce https://ru.wikipedia.org/wiki/MapReduce — Google File System https://ru.wikipedia.org/wiki/Google_File_System — HDFS https://bit.ly/3XVnS9I — Захват изменения данных https://bit.ly/3wIYR5V — Apache NiFi https://ru.wikipedia.org/wiki/Apache_NiFi — Nginx https://ru.wikipedia.org/wiki/Nginx — Apache Airflow https://ru.wikipedia.org/wiki/Apache_Airflow — Dimensional modeling https://en.wikipedia.org/wiki/Dimensional_modeling — Сайт-тренажёр sql-ex.ru — «Книга с кабанчиком» https://habr.com/ru/post/423981 — Codewars https://www.codewars.com — LeetCode https://leetcode.com — YouTube-канал «Диджитализируй!» https://bit.ly/3kWYvG0 — Марк Лутц. «Изучаем Python» — Эви Немет, Гарт Снайдер, Трент Хейн, Бэн Уэйли, Дэн Макин. «Unix и Linux: руководство системного администратора» Гость: Влад Гоцуляк. Директор по Data&AI в «Еаптеке». Окончил МФТИ. В свободное время читает лекции для студентов кафедры БИТ в МФТИ по big data. Стартовать в программировании вместе со Skillbox: skillbox.ru/code Наш подкаст удобно слушать на популярных платформах: Castbox: https://bit.ly/3tZ3eJF «Яндекс Музыка»: https://bit.ly/3FWQsOk Apple Podcasts: https://apple.co/3KLXpVZ Google Podcasts: https://bit.ly/3qFvYUY Подписывайтесь, ставьте лайки, делитесь с друзьями и оставляйте комментарии!
Плейлист
Люди и код
Содержание — Что такое Vue.js? Кто и зачем его придумал — Чем single page application (SPA) отличается от обычного веб-приложения — Какие основные концепции лежат в основе фреймворка. Что такое реакти...
24 апреля 2025
Содержание:— Какая роль у Тимура в Ænix — Какие ещё есть роли в команде — На каком этапе Тимур присоединился к стартапу — О платформе Ænix и её пользователях — Как искали первых клиентов — Почему сраз...
28 марта 2025
Содержание:— Чем Picodata отличается от других СУБД и какие задачи помогает решить— Что понимают под «исследованиями» и «разработкой» в контексте R&D— Какой профит исследовательская деятельность даёт...
21 марта 2025
Содержание:  — У кого в IT подросла зарплата  — Сегодня в IT рынок работодателя или соискателя?  — Что имеют в виду, когда говорят о кадровом голоде в российском IT  — Почему бизнес не хочет нанимать...
06 марта 2025
Содержание — Что такое мягкие навыки — Мифы вокруг этой темы — Что ошибочно причисляют к софт-скиллам — Если софты — это навыки, значит, их можно прокачать? — Как проверяют мягкие навыки на собеседова...
27 февраля 2025
Содержание — Насколько активным пользователем «Хабра» Артём был до того, как туда устроился — Кто и когда создал «Хабр». В чём была уникальность площадки в то время — На чём была написана первая верси...
06 февраля 2025
Содержание — Откуда Константин узнал о книге и какое впечатление она на него произвела — Кто такой Роберт Мартин — О чём книга и что такое чистый код — Кому она нужна и как правильно её читать — Прим...
23 января 2025
Содержание — Что изменилось в карьере Тимура в 2024 году — Новая волна интереса к AR/VR и выход Apple Vision Pro 2024. Какое будущее у технологии виртуальной реальности — ИИ продолжает набирать оборот...
26 декабря 2024
Содержание — Почему Илья пошёл в веб-разработку — Что такое Bitrix Framework? Какие приложения на нём можно создавать — Какова доля Bitrix на рынке PHP-фреймворков в России, СНГ и других регионах? Кто...
18 декабря 2024
Содержание:— Что такое техподдержка? Какие «линии» существуют и в чём между ними разница— Какие знания и навыки нужны специалистам техподдержки разных линий— Как происходит синхронизация продукта и ко...
05 декабря 2024
Содержание — Что такое видеоаналитика— Чем «интеллектуальная видеоаналитика» отличается от обычной — История видеоаналитики — С какими запросами к Александру и Ивану приходят клиенты — Как компании мо...
21 ноября 2024
Содержание — Как Андрей пришёл к менторству — Как программисту понять, что уже можно учить других программистов — Кто такой ментор — Как расти в доходах — Какие плюсы даёт менторство, кроме денег — Ка...
31 октября 2024
Содержание — Чем крут маркетинг? В каких компаниях и на каких позициях Александр успел поработать до запуска стартапа — Как маркетологи предсказывают наши желания и помогают бизнесу на этом зарабатыва...
17 октября 2024
Содержание — История Golang: кто, когда и зачем его создал — Философия Роба Пайка и проект Plan 9 — Общая характеристика Golang, тулинг и киллер-фичи — Golang — это только про микросервисы или он ис...
03 октября 2024
Содержание — Почему важно правильно выбрать ОС — По каким критериям выбирать ОС, и как выбор ОС зависит от технических параметров железа — В каких случаях выбор ОС может быть продиктован особенностями...
19 сентября 2024
Содержание  — Как образование помогло Сергею в карьере? Нужно ли высшее образование IT-специалисту сегодня  — Первая работа: как нашёл, насколько тяжело было устроиться в начале 2000-х, с какими техно...
30 августа 2024
Содержание — Кто такой проджект-менеджер и как строится его рабочий день. Какие задачи он закрывает на разных этапах работы над проектом — Чем проджект-менеджер отличается от продакт-менеджера — Каку...
22 августа 2024
Содержание: — Какой была мобильная разработка в 2000-х? На каких языках программирования писали приложения и какие инструменты использовали  — Когда появились сторонние разработчики мобильных приложен...
15 августа 2024
Содержание — Как Игорь увлёкся искусственным интеллектом — ИИ, который в реальном времени определяет уровень стресса собеседника: зачем он нужен и как он устроен — Насколько глубоко разработчикам прих...
08 августа 2024
Содержание Что такое смартстаффинг Почему и когда Руслана заинтересовала тема Open Source Почему важно развивать Open Source в отдельно взятой стране Какие инициативы в этом направлении предпринимало...
25 июля 2024
Содержание — Какой технический бэкграунд был у Александра, когда он решил сменить профессию — Почему не пошёл по технической стезе во время или после учёбы в универе — По каким курсам и книгам учился...
11 июля 2024
Содержание — Что мотивирует Станислава преподавать в государственном вузе — Почему новая книга посвящена Dart. Чем крут этот язык и в какой нише используется — Что такое мультиагентные системы — Зачем...
27 июня 2024
Осторожно: акустические помехи!Оказывается, примерно на 10-й минуте кулер на компе гостей загудел подобно авиамотору, но увлеченные беседой мы этого, увы, не заметили. На монтаже постарались максималь...
20 июня 2024
Содержание — Как маленький магазин автозапчастей стал местом знакомства с программированием — Как COVID-19 «помог» освоить Python — Спортивная травма, которая «помогла» сделать выбор между футболом и...
13 июня 2024
Вопросы — Как Михаил ушёл из разработки в SEO — Что такое SEO и чем занимается SEO-специалист — Как менялись подходы к продвижению сайтов в поисковых системах от зари веба до наших дней — Про чёрные...
06 июня 2024
Содержание — Как преподавали программирование в техникуме — Почему Игорь так и не стал программистом после выпуска, а ушёл на завод махать лопатой — Про работу «тыжпрограммистом» за 12 тысяч рублей в...
30 мая 2024
Содержание — Какие существуют архитектуры, кроме монолитной, микросервисной и облачной — Как эволюционировали подходы к построению веб-приложений и зачем пришлось выдумывать принципы и паттерны — Ч...
10 мая 2024
Содержание— Почему важно осознанно подходить к профессиональному росту — Про два типа разработчиков — Гибкие методологии: когда они лучше waterfall, а когда наоборот — Почему бизнес ценит разработчико...
03 мая 2024
Содержание — Почему Александр перешёл с Java на PHP? Каким был язык и его экосистема в те времена — Как Александр попал в Yii core team и дорос до руководителя команды фреймворка — Как выглядит процес...
23 апреля 2024
Содержание — Какие врачи занимаются проблемами спины: неврологи, вертебрологи, мануальные терапевты, остеопаты и другие — Почему остеопатию не считают медицинской специальностью — К какому специалисту...
11 апреля 2024

Мы используем файлы cookies для улучшения работы сайта. Оставаясь на нашем сайте, вы соглашаетесь с условиями использования файлов cookies. Чтобы ознакомиться с нашими Положениями о конфиденциальности и об использовании файлов cookie, нажмите здесь.