Что такое Tetracell и Quad Bayer

Камеры смартфонов с матрицами Sony и Samsung. Что такое Tetracell и Quad Bayer?

Оценка этой статьи по мнению читателей:
5
(59)

Sony и Samsung являются основными поставщиками камер (матриц) для современных смартфонов, занимая около 80% всего рынка. За последние несколько лет эти компании проделали невероятный путь, внедряя самые передовые технологии из мира больших зеркальных камер в крохотные сенсоры мобильных телефонов.

Самый популярный 48-мегапиксельный сенсор 2019 года Sony IMX586 устанавливался на большинстве средне-бюджетных и флагманских камерофонах прошлого года. А Samsung и вовсе прошла путь от 12-мегапиксельных матриц до невероятного во всех смыслах 108-мегапиксельного сенсора, установленного на Xiaomi Mi Note 10.

Но с каждым новым смартфоном простому пользователю становится все труднее разобраться во всем этом разнообразии технологий. В интернете то и дело публикуются «разоблачения», будто всё это сплошной маркетинг. А тем временем в технических характеристиках появляется всё больше непонятных терминов: PDAF, Quad Bayer, Dual Pixel, ISOCELL Plus и пр.

В этой серии статей я попытаюсь максимально понятно и, в то же время, подробно рассказать обо всех основных технологиях, используемых в современных матрицах от Sony и Samsung.

Первая часть статьи будет посвящена базовым принципам работы матриц с высоким разрешением и, в частности, технологиям Tetracell от Samsung и Quad Bayer от Sony.

Но перед этим нам необходимо разобраться, как вообще работает обычная матрица, используемая в камере смартфона. Если эта информация вам уже известна, смело переходите к следующему разделу!

Как устроена матрица камеры обычного телефона?

Фотоматрица — это специальная микросхема, состоящая из миллионов светочувствительных ячеек, называемых фотодиодами. Матрица в камере смартфона — это аналог пленки в старых пленочных фотоаппаратах.

Свет, попадая на фотодиод, генерирует электрический заряд. Чем ярче этот свет, то есть, чем больше фотонов удалось собрать в одной ячейке, тем выше будет электрический заряд. Камера устанавливает определенную выдержку (время «сбора» фотонов), по окончании которой измеряется заряд каждого отдельного фотодиода и переводится в числовое значение от 0 до 255, где 0 — это отсутствие заряда/света, а 255 — максимальная яркость.

В итоге, мы получаем черно-белую фотографию, состоящую из миллиона маленьких точек разной яркости. Чем выше был заряд определенного фотодиода в момент съемки, тем ярче соответствующая ему точка/пиксель будет отображаться на фотографии:

увеличенный пример фотографии
Увеличенный фрагмент фотографии

Но так как в реальности эти точки гораздо меньшего размера, то вместо непонятных квадратиков мы получаем красивую черно-белую фотографию:

черно-белая фотография
Черно-белая фотография

Все очень просто, не так ли? Но почему фотография получилась черно-белой?

Дело в том, что цвета не существует. Понимаю, это звучит странно, но, тем не менее, цвет — это не более, чем наши субъективные ощущения.

Немножко интересных фактов о цвете

Световые волны имеют разную длину и наши глаза способны воспринимать только очень маленький диапазон этих волн. Самые короткие из них воспринимаются нами, как фиолетовый цвет, а самые длинные — как красный. Ну и где-то посредине находится зеленый, а также все видимые оттенки между ними.

Но вот, к примеру, если делать рентгеновский снимок, мы не увидим никакого цвета, а ведь это такой же свет, как и свет от лампочки, только с более короткой волной. Мы даже представить себе не можем, как бы мог выглядеть цвет рентгеновских лучей. Не обидно ли?

Но нам это и не нужно, так как эти лучи не отражаются от предметов и, соответственно, бесполезны для наших глаз. Ведь и предметы, окружающие нас, мы видим только по той причине, что они отражают свет. Так что, трава — не зеленая, она просто отражает волны соответствующей длины, а наш мозг запрограммирован эту длину изображать зеленым цветом. Так проще и приятнее.

Возвращаемся к матрицам

Для того, чтобы и матрица смогла «увидеть» цвета, мы просто накрываем каждый фотодиод фильтром определенного цвета: красного, зеленого и синего. Теперь каждый фотодиод будет воспринимать яркость световой волны только одного цвета, соответствующего фильтру:

цветовой фильтр матрицы смартфона

Другими словами, каждый фотодиод будет получать 1/3 яркости света, падающего на него, так как из этого света исключены все волны другой длины. Получается, мы можем из 3 фотодиодов «собрать» заново исходный цвет, смешивая в нужных пропорциях их значения. Ведь, как известно, для получения любого цвета, нам нужно знать лишь в каких пропорциях «смешивать» красный, зеленый и синий цвета.

Если значения красного, зеленого и синего цветов будут равняться нулю (напомню, камера переводит заряд каждого фотодиода в числовое значение от 0 до 255), получается черный цвет. Если все три фотодиода имели максимальный заряд (значение 255 для красного, зеленого и синего цвета), получается белый цвет. Если красный и зеленый цвет равняются 255 (то есть, фотодиоды, накрытые этими фильтрами, имели максимально высокий заряд), а синий — нулю, тогда получим желтый цвет и так далее.

Все просто? Не совсем. Давайте представим, что наш смартфон имеет камеру на 16 пикселей (не мегапикселей, а именно пикселей), то есть, всего 16 фотодиодов будут регистрировать попадающий на них свет. Вот как будет выглядеть матрица такой камеры с накрытыми цветными фильтрами:

как выглядит фильтр Байера
Фильтр Байера

Вы, наверное, заметили, что цветные фильтры распределены как-то странно — в каждой условной ячейке 2×2 находятся один синий, один красный и два зеленых фильтра. То есть, зеленых фильтров в 2 раза больше, чем красных или синих.

В далеком 1976 году сотрудник фирмы Kodak по имени Брайс Байер предложил использовать по 4 фильтра для каждого пикселя, причем фильтров зеленого цвета — в 2 раза больше. Связано это, скорее всего, с тем, что зеленый цвет находится ровно посредине спектра и он включает в себя часть синего и красного цвета. То есть, зеленые фотодиоды будут воспринимать больше света. А больше света — лучше качество. Плюс, наши глаза более восприимчивы к зеленому свету.

Этот фильтр так и называется «Фильтр Байера» (Bayer Filter). Он получился настолько удачным, что до сих пор является самым популярным в мире. Есть и другие фильтры, в частности, на смартфоне Huawei P30, обзор которого мы делали. Там вместо зеленых фильтров используются желтые. Также встречаются фильтры, где вместо второго зеленого используется «белый фильтр», то есть, фильтр по сути отсутствует и этот диод воспринимает больше света, чем другие.

Что не так с фильтром Байера?

Вернемся к нашей 16-пиксельной матрице. Вот мы сделали снимок и теперь нам нужно восстановить цвет каждой из этих 16 точек. У нас же 16-пиксельная камера, значит и фотография должна быть «16-пиксельная», верно? Как же это сделать?

Посмотрите еще раз на картинку выше. По сути, красные цвета зарегистрировали только 4 пикселя (фотодиода), также и синий цвет зарегистрировали только 4 пикселя. А еще 8 пикселей зарегистрировали зеленый цвет.

Получается, у нас есть всего 4 набора каждого цвета, плюс, 4 «лишних» зеленых цвета. То есть, мы можем полноценно восстановить оригинальные цвета только 4 пикселей на финальной фотографии:

дебайеризация

Так что же это получается, никакой 16-пиксельной матрицы у нас и не было? Мы же можем восстановить только 4-пиксельную фотографию.

С камерами iPhone 11 Pro или Galaxy Note10, которые имеют по 12 мегапикселей, дела обстоят ровно так же. Они используют тот же Bayer-фильтр, что и на схеме выше. И вместо 12 мегапикселей у нас есть суммарно только 3 мегапикселя, содержащих все три цвета + еще 9 мегапикселей, захвативших только зеленый спектр света.

Но почему тогда камера того же iPhone 11 Pro выдает 12-мегапиксельные снимки вместо 3-мегапиксельных?

На помощь приходит процесс дебайеризации!

Чтобы получить красочный снимок в полноценном разрешении, нужно взять каждый фотодиод (пиксель) и добавить к нему недостающие цвета.

Если посмотреть на нашу 16-пиксельную матрицу, тогда для первого пикселя синего цвета нужно добавить еще красный и зеленый, а для пикселя зеленого цвета — добавить информацию о красном и синем цвете. Но где же ее взять, если один фотодиод зафиксировал количество света (или яркость света) только одного цвета?

Для этого снимок проходит обработку специальным алгоритмом дебайеризации или демозаики, то есть, процессор путем интерполяции вычисляет недостающие компоненты цвета для каждой точки.

А сейчас следите внимательно за мыслью. Если посмотреть на любую группу из 4 пикселей, то каждый из этих пикселей может принадлежать и другой группе (рядом стоящей).

РЕКЛАМА

Например, если условно выделить фиолетовым цветом группу из 4 пикселей (каждому из которых не хватает по 2 цвета для правильного восстановления), тогда красный пиксель одновременно будет принадлежать и другой группе из 4 пикселей, выделенных оранжевой пунктирной линией. А синий пиксель в то же время может принадлежать еще одной группе из 4 пикселей, выделенной на картинке желтой пунктирной линией (все остальные цвета я сделал приглушенными, чтобы они не отвлекали внимание):

процесс демозаики матрицы с фильтром Байера

То есть, фактически, вокруг каждого пикселя можно построить по 4 группы, содержащие все нужные цвета. А дальше математическим путем определить, какой же реальный оттенок должен иметь каждый пиксель.

Процесс дебайеризации может показаться немножко сложным, но если вы до конца не поняли, откуда мы берем недостающие цвета — ничего страшного, для понимания остальных технологий это не имеет значения.

Что такое Quad Bayer и Tetracell? Или как работают камеры со сверхвысоким разрешением (48, 64 и 108 Мп)

Чуть выше мы рассмотрели, как работает классический фильтр Байера, который используется практически во всех камерах современных смартфонов. Но когда речь заходит о новых камерофонах с очень высоким разрешением (от 48 Мп и выше), здесь все устроено немного по-другому.

Вместо фильтра Байера (Bayer) используется так называемый Quad Bayer (от англ. Quad — четыре). Расположение и количество цветных фильтров здесь в точности соответствует таковому на обычной матрице, только вместо одного фотодиода, под одним цветным фильтром размещается сразу 4 фотодиода.

Схематически можно изобразить Quad Bayer следующим образом:

Quad Bayer или Tetracell фильтр
Расположение цветных фильтров Quad Bayer (Tetracell)

Как видим, один общий синий фильтр прикрывает сразу 4 физических фотодиода, то же касается и других цветов. Если на обычной матрице 2×2 под фильтрами скрываются 4 фотодиода, то в матрице Quad Bayer 4 фильтра (2 зеленых, красный и синий) накрывают 16 физических фотодиодов.

Получается, если физический размер одного пикселя в классической матрице составляет 1.4 мкм, то в матрице Quad Bayer/Tetracell он равняется 0.8 мкм. Но если мы сравним размеры по цветным фильтрам, тогда в классическом варианте будем иметь все те же 1.4 мкм (так как один фильтр имеет такой же размер, как и сам фотодиод), а в Quad Bayer получится 1.6 мкм, ведь под одним фильтром помещаются 4 фотодиода.

Сразу стоит уточнить, что название Quad Bayer принадлежит компании Sony, в то время, как Samsung зарегистрировала для ровно такого же фильтра свое название — Tetracell. Но оба эти понятия означают одно и то же. Отличаются лишь «торговые марки» технологий. Поэтому, иногда я также буду заменять одно название другим.

В чем смысл Tetracell и Quad Bayer фильтров?

Несмотря на столь незначительное на первый взгляд изменение, матрицы смартфонов получили много преимуществ от размещения 4 фотодиодов под каждым цветным фильтром.

Прежде всего, это позволило значительно улучшить динамический диапазон фотографий. Динамический диапазон — это разница между самым темным и самым светлым участком на фото. Ниже можно увидеть сравнение двух снимков, на одном из которых (слева) динамический диапазон низкий, а на втором (справа) — высокий:

Сравнение низкого и широкого динамического диапазона
Слева — низкий динамический диапазон, справа — высокий

К сожалению, матрица камеры на смартфоне настолько маленькая, что не способна физически запечатлеть широкий динамический диапазон. Приходится прибегать к различным уловкам, главная из которых — съемка серии кадров с разной выдержкой.

Вначале на фотодиоды падает свет в течение очень короткого времени, что позволяет камере «увидеть» все детали на самых ярких участках сцены. А затем камера делает еще одну фотографию, но с более длинной выдержкой, «собирая» больше света и тем самым раскрывая детали в тенях.

После этого, используя все кадры (которых может быть гораздо больше двух), смартфон «собирает» финальный вариант.

Технология Tetracell (Quad Bayer) позволяет расширить динамический диапазон, ограничившись всего одним кадром. Для этого половина фотодиодов под одним фильтром работает с короткой выдержкой, а вторая половина — с длинной. Получается, под каждым цветным фильтром 2 диода собирают всю информацию на ярких участках, а 2 других — на темных:

HDR матрицы с Quad Bayer фильтром (или Tetracell)

Это очень легко сделать, так как в камере смартфона нет физического затвора, который бы открывался и пропускал свет через объектив на матрицу, как это сделано в больших зеркальных камерах. Здесь же сама матрица регулирует время накопления электрического заряда на каждом фотодиоде и может выборочно «включать/выключать» фотодиоды, когда потребуется.

Помимо более широкого динамического диапазона, Tetracell матрица позволяет сократить уровень шумов. Опять-таки, когда мы имеем дело с обычной матрицей, только один фотодиод собирает информацию о яркости определенного цвета. И если этого света было очень мало, появляется цифровой шум, определить количество света становится тяжело и качество фотографии падает.

попытка определить цвет пикселя

Когда же мы имеем дело с Quad Bayer (Tetracell) матрицей, у смартфона появляется 4 фотодиода для определения цвета одной точки. Ведь, напомню, под каждым цветным фильтром размещается 4 фотодиода, накапливающих заряд независимо друг от друга. Соответственно, шансы точно определить цвет одной точки увеличиваются очень сильно.

Это же касается и съемки при недостаточной освещенности. Смартфону не нужно делать несколько кадров подряд, чтобы попытаться точнее определить цвет каждой точки, сравнивая небольшие отличия на снимках. Он может просто воспользоваться информацией с четырех фотодиодов.

А как же детализация фотографий?

Действительно, среди всех преимуществ матриц с высоким разрешением, я не назвал главного — высокого разрешения и хорошей детализации.

Дело в том, что во всех упомянутых выше ситуациях, смартфон использовал по 4 фотодиода, размещенных под одним фильтром, как один большой пиксель. То есть, матрица работала в режиме объединения четырех пикселей в один. Соответственно, разрешение во всех этих случаях будет в 4 раза ниже заявленного. К примеру, 48-Мп камера будет выдавать 12-Мп фотографии, а 108-Мп камера — 27-мегапиксельные снимки.

При дебаеризации, смартфон обращается со всеми пикселями ровно так же, как и в случае использования классического фильтра Байера, только «одна точка» для него — это набор из четырех фотодиодов под одним фильтром.

Однако же, Quad Bayer и Tetracell матрицы могут работать и в режиме полного разрешения, считывая пиксели совершенно другими группами. Если посмотреть на следующую картинку, вам станет сразу все понятно:

биннинг пикселей или Tetracell

Слева Tetracell-матрица работает в режиме объединения пикселей, выдавая разрешение в 4 раза ниже, чем заявлено производителем. Это стандартный режим работы для всех мобильных камер с высоким разрешением.

Справа мы видим совершенно другой алгоритм считывания данных с фотодиодов. Теперь камера берет по одному фотодиоду от каждого фильтра. В этом случае Tetracell-матрица будет выдавать снимки в полном разрешении.

Но использовать второй вариант есть смысл только в редких случаях при идеальном освещении. И под «идеальным» я подразумеваю не просто яркий солнечный день, а именно «среднюю» освещенность, когда в сцене нет сильных перепадов по яркости. В таких условиях практически любая Quad Bayer матрица выдаст гораздо более детализированный снимок. Мы уже приводили десятки примеров, сравнивая работу таких камер в двух режимах. Вот один из них:

сравнение 64 Мп и 16 Мп на камере Redmi Note 8 Pro

Во всех остальных случаях (яркое солнце, плохо освещенная комната, вечер) лучше использовать камеру в режиме объединения пикселей, так как это позволяет получить более интересный, с художественной точки зрения, кадр.

Конечно же, матрицы камер устроены гораздо сложнее. К примеру, над каждым фотодиодом перед цветным фильтром отдельно устанавливаются микролинзы, а еще до микролинз размещается ИК-фильтр, который обрезает весь инфракрасный спектр света, чтобы минимизировать его влияние на снимок.

Если схематически изобразить всю эту конструкцию в разрезе, получим примерно следующее:

устройство матрицы камеры смартфона

Кроме того, я совершенно ни слова не сказал о том, каким образом работает автофокус и почему так важен именно фазовый автофокус (PDAF). Что такое «двойной пиксель» (Dual Pixel) и как эта технология влияет на качество фотографий телефонных камер. Обо всем этом читайте во второй части статьи.

Если же вы хотите более детально погрузиться в то, как устроены и работают камеры смартфонов, тогда очень советую почитать мой цикл статей «Камера смартфонов для чайников«. Там вы найдете ответы на все вопросы, связанные с камерами и узнаете много всего нового и интересного.

Алексей, главный редактор Deep-Review (alexeysalo@gmail.com)

 

P.S. Мы открыли Telegram-канал и сейчас готовим для публикации очень интересные материалы! Подписывайтесь в Telegram на первый научно-популярный сайт о смартфонах и технологиях, чтобы ничего не пропустить!

 

Понравилась статья? Поделитесь с другими:
  •  
  • 1
  •  
  • 1

Как бы вы оценили эту статью?

Нажмите на звездочку для оценки

Внизу страницы есть комментарии...

Напишите свое мнение там, чтобы его увидели все читатели!