Skip to content

Практические советы: как не нужно работать с S3-хранилищем

By Yandex Cloud

1 ч видео·ru··6246 views

Это пересказ, составленный ИИ, — видео канала Yandex Cloud длительностью 1 ч «Практические советы: как не нужно работать с S3-хранилищем», опубликовано 4 июня 2024 г.. Полная расшифровка сжата до 10 тезисов с переходом по таймкодам.

Пересказ

Вебинар объясняет типичные ошибки при работе с объектным хранилищем S3 в Yandex Cloud и демонстрирует правильные практики использования хранилища, инструментов, политики доступа и оптимизации производительности.

Тезисы

  • Объектное хранилище предназначено для неизменяемых объектов и не подходит для запуска виртуальных машин или контейнеров; для этих целей следует использовать локальное, блочное или файловое хранилище. 
  • При загрузке большого количества файлов следует применять рекурсивный режим или пакетные операции, а не запускать отдельный процесс aws cli для каждого файла, чтобы сократить количество TLS‑соединений и ускорить передачу. 
  • GFS (FUSE) обеспечивает лучшую производительность по сравнению с обычными утилитами, особенно при листинге миллионов объектов и частичном обновлении. 
  • Для повышения скорости передачи больших объектов рекомендуется разбивать их на части (например, 5 МБ) и использовать multipart‑upload с параллельным масштабированием. 
  • Незавершённые multipart‑загрузки остаются в бакете и занимают место, поэтому их необходимо регулярно удалять с помощью правил жизненного цикла, консоли или CLI. 
  • Производительность работы с S3 сильно зависит от ресурсов клиентской стороны: достаточное количество vCPU, оперативной памяти, быстрые SSD и низкая сетевая задержка. 
  • Использовать S3 как очередь сообщений не рекомендуется, потому что операции LIST дорогие и медленные; лучше применять специализированные сервисы сообщений или триггеры функций. 
  • Для конечных пользователей следует отделять контрольную плоскость от плоскости данных, предоставляя presigned‑URL и политики бакета, чтобы они могли напрямую работать с объектами без прохождения через бизнес‑логику. 
  • Политики доступа позволяют ограничивать операции и префиксы, обеспечивая изоляцию данных каждого пользователя в собственном префиксе бакета. 
  • Для доступа без создания IAM‑пользователей можно использовать Secure Token Service, выдающий короткоживущие токены с правами, определёнными в политике. 
Практические советы: как не нужно работать с S3-хранилищем

Практические советы: как не нужно работать с S3-хранилищем

Вебинар объясняет типичные ошибки при работе с объектным хранилищем S3 в Yandex Cloud и демонстрирует правильные практики использования хранилища, инструментов, политики доступа и оптимизации производительности.

Тезисы

—Объектное хранилище предназначено для неизменяемых объектов и не подходит для запуска виртуальных машин или контейнеров; для этих целей следует использовать локальное, блочное или файловое хранилище.
—При загрузке большого количества файлов следует применять рекурсивный режим или пакетные операции, а не запускать отдельный процесс aws cli для каждого файла, чтобы сократить количество TLS‑соединений и ускорить передачу.
—GFS (FUSE) обеспечивает лучшую производительность по сравнению с обычными утилитами, особенно при листинге миллионов объектов и частичном обновлении.
—Для повышения скорости передачи больших объектов рекомендуется разбивать их на части (например, 5 МБ) и использовать multipart‑upload с параллельным масштабированием.
—Незавершённые multipart‑загрузки остаются в бакете и занимают место, поэтому их необходимо регулярно удалять с помощью правил жизненного цикла, консоли или CLI.
—Производительность работы с S3 сильно зависит от ресурсов клиентской стороны: достаточное количество vCPU, оперативной памяти, быстрые SSD и низкая сетевая задержка.
—Использовать S3 как очередь сообщений не рекомендуется, потому что операции LIST дорогие и медленные; лучше применять специализированные сервисы сообщений или триггеры функций.
—Для конечных пользователей следует отделять контрольную плоскость от плоскости данных, предоставляя presigned‑URL и политики бакета, чтобы они могли напрямую работать с объектами без прохождения через бизнес‑логику.
—Политики доступа позволяют ограничивать операции и префиксы, обеспечивая изоляцию данных каждого пользователя в собственном префиксе бакета.
—Для доступа без создания IAM‑пользователей можно использовать Secure Token Service, выдающий короткоживущие токены с правами, определёнными в политике.
Пересказ любого видео — бесплатно
Summarizer.tube
Копировать всё
Ссылка
В закладки

Пересказ любого видео с YouTube — бесплатно

Вы только что прочитали пересказ этого видео. Вставьте ссылку на любое другое — получите тезисы с таймкодами за секунды. Без регистрации, 5 в день бесплатно.

Ещё материалы

Другие пересказы

2 ч 38 мин

CustDev.me | Воркшоп #2 Сегментация на основе глубинных интервью + делаем сценарий, ищем людей

Ivan Zamesinru

Видео представляет собой подробный тренинг по разработке эффективных бизнес-стратегий, методологиям CustDev, сегментации клиентов (ABCDX), проведению глубинных интервью и вовлечению команды в процесс

4 мин

Communism vs. Socialism: What's The Difference?

NowThisru

Видео объясняет различия между коммунизмом и социализмом, основываясь на теориях Карла Маркса, уточняя, что истинно коммунистических стран никогда не существовало, а социализм является предшественнико

1 ч 28 мин

Время — не то, чем кажется | ALI

ALIru

Видео исследует природу времени, законы физики, которые его описывают, и парадоксы, связанные с его восприятием, предлагая радикальную теорию Ричарда Мюллера о том, что настоящее — это физическая гран

4 мин

Intro - Business Ethics and Social Responsibility (CU1 M2)

Brian Daigleru

Это видео знакомит с деловой этикой и социальной ответственностью, различая этические дилеммы и решения, объясняя, как компании могут поощрять этичное поведение, и подчеркивая важность балансирования

1 ч 40 мин

Полный гайд по спортивной ФАРМЕ. БЕЗ ВОДЫ

Nikita Gorinru

В этом видео уролог и андролог подробно обсуждают спортивную фармакологию, охватывая ее влияние на организм, побочные эффекты, мониторинг и восстановление, с целью предоставления исчерпывающей образов