軟體相機時代來臨!Google Pixel 工程師來台揭秘相機技術

智慧型手機越來越貴的魔咒在 Pixel 3a 發表被打破,不過,被視為 Pixel 3 精簡版的 3a 系列在拍照功能上卻沒有因此打折,背後得從 Pixel 系列相機軟硬體設計整合談起!
評論
圖一_:Google_傑出工程師_Marc_Levoy
Google 工程師 Marc Levoy
評論

每年在 Google I/O 上備受矚目的莫過於親兒子 Pixel 系列智慧型手機,今年更是透過簡化硬體及外觀降低成本,推出中階價位的 Pixel 3a 與 3a XL,分別為新台幣 14,500 元起與 17,100 元,研發主要由 Google 台灣團隊完成,台灣也在本次成為首賣國家,智慧型手機越來越貴的魔咒也在本次發表會被打破,不過,被視為 Pixel 3 精簡版的 3a 系列在拍照功能上卻沒有因此打折。

一直受到關注的 Pixel 拍照功能包含,夜視模式、肖像模式和 HDR+ 等,如何憑藉單一鏡頭就傲視雙鏡頭、三鏡頭的競品,在 DxOMark 相機評比創下新高,甚至在降價後的版本都能保有相機的強大功能,讓人不妨有種買了相機附贈手機的錯覺,今日,Google 特別邀請到 Google Pixel  的工程師 Marc Levoy 來向大家解析一番。

相機 App 必備要素:執行迅速 預設可靠

Marc Levoy 首先幫大家釐清,在相機 App 上需要哪些條件,首先,在即時速度的要求,即時觀看器資訊需要高於 15 fps ,快門延遲需要低於 150 毫秒 ,成像時間需低於 5 秒內,需要有可靠的預設模式,包含曝光、對焦和白平衡,在特殊模式下可接受偶發的失敗。

揭秘一:HDR+ 的突破  

接著 Marc Levoy 分別從 HDR+、肖像模式、高解析變焦和夜視模式進行說明,與過去相機透過包圍曝光捕捉不同曝光影像,再加以疊合實現高光清晰的影像,此技術易受到晃動無法實現 HDR 影像。

在 Google Pixel 上的 HDR+ 是捕捉曝光不足下的連拍影像,也就是透過捕捉在相同曝光程度下的連拍影像,並且避免亮處過度曝光,因為影像相似因此更容易校準,再透過 SNR (Signal-to-noise ratio,信號雜訊比) 成功減少陰影與雜訊,並透過色調映射( Tonemap )強化陰影、降低亮處,雖然會因此無法完整呈現整體色調與對比,但卻是保留局部對比。

IMG_0737
一般相機透過包圍曝光實現 HDR技術

揭秘二:單鏡頭背後的人像

接下來就是長期備受關注的話題:單鏡頭實現景深模式-清楚的人像和和諧的散景,比起雙鏡頭以硬體為技術基礎實現的景深,Marc Levoy 解釋目前大多數廠商使用的合成景深技術,如何雙鏡頭捕捉相似焦點兩個影像,透過立體匹配演算法,選擇保留銳利的基準,讓背景模糊。

IMG_8769

Pixel 手機單鏡頭加上機器學習完成影像,首先,利用機器學習技術分割影像中的人物:運用卷積神經網路 (Convolutional Neural Network, CNN) 預估圖像中每一個像素的人物,卷積神經網路,背後資料來自超過100萬張標籤過的人物和配件的機器學習模型訓練。

同時,透過數學計算中的邊緣感知雙邊求解器(Edge-aware Bilateral Solver)進行細化,讓人物分割的邊緣更加銳利。

再者,就是運用相機中的硬體技術「雙像素 (Dual pixels)」預估深度圖 (Depth Map),雖然機器學習能夠透過單鏡頭完成人像模式,但是受到背後為人像資料的模型,對於非人像就成為阻礙,Pixel 在此就是透過硬體技術解決。

透過雙像素 (Dual-pixels), 將單一像素上的影像分為兩部分,每個像素的右半部通過左半部鏡頭看世界,反之左半部則通過右半部鏡頭看世界,在這樣的分離下會得到兩種具些微差異的成像,鏡頭就能透過非常小的基線 (Baseline) (約1mm) 讓影像立體化。

螢幕快照_2019-05-23_下午4_05_38
螢幕快照_2019-05-23_下午4_06_26
根據人物與背景的距離按比例
模糊化,將人物所在位置前後一段距離的影像也保持銳利,以讓人物影像能清楚呈現。

此外,Pixel 手機相機透過將焦點擴展讓攝影新手也能而言較容易拍攝出具有景深的人物肖像。

螢幕快照_2019-05-23_下午4_06_32
Pixel手機相機則是將焦點擴展,對於攝影初學者而言較容易拍攝出
具有景深的人物肖像

揭秘三:Super Res Zoom 沒用上AI 卻也能媲美 2x 光學變焦手機

第三個,Marc Levoy 解釋到 Super Res Zoom,這項高解析變焦功能可以說是幾項拍照功能中最難理解的一個,雖然此功能背後並無搭載人工智慧及機器學習技術,將多層影像合成為更高像素的照片,不僅提升照片細節的呈現之外,解析度與許多搭載2x光學變焦鏡頭的智慧型手機不相上下。

在一般的相機中,透過一種叫做去馬賽克(Demosaicing)的過程,從部分顏色資訊中重建遺失的資訊,相機感測器元件只用於測量光的強度,而不是直接測量光的顏色。為了捕捉場景中呈現的真實顏色,鏡頭使用放置在感測器前面的顏色濾鏡陣列,以便每個畫素只測量一種顏色(紅色、綠色或藍色)。

IMG_9764
Marc Levoy 解釋像素移位原理

而在 Pixel 上相機同時拍攝了4幀畫面,三幀分別於水平、垂直,還有水平與垂直同時位移一個像素,組合此 4 幀畫面後能填補原先缺失的像素都,不必再執行去馬賽克。

若是在不震動的固定環境,仍然可以強制開啟光學影像穩定功能 (Optical Image Stabilization),製造鏡頭「搖晃」來模擬手震達到想要的拍攝效果。

揭秘四:吊打 iPhone XS 的低光攝影

最後則是 Google 一直自豪吊打 iPhone XS 的低光攝影,夜視模式技術保有真實的色彩是一大挑戰,Google 透過學習式白平衡 (Learning-based White Balancing) 調整影像色調藉由計算攝影的自動調整保持景物最真實的色調。

Marc Levoy 也分享他們從古典畫作得到的靈感,包含:強化對比度、將陰影投射成黑色 用黑暗環繞場景,藉由計算攝影進行色調映射 (Tone Mapping)讓影像保有原色。

事實上,這些技術先前 Google AI 團隊屢次都有在部落格上進行分享,今天更像是一場 Pixel 相機軟硬整合的小教室,少了 Pixel 2 系列開始採用的 VPU 視覺運算元件 Pixel Visual Core,仍然藉由機器學習巧用於硬體上,除了處理速度以外,不論是 AI 模型相機鏡頭一樣,都可以實現這些強大的拍照功能。

透過軟體來補足硬體上的功能,不免讓人有種,未來的相機是否會越來越依賴軟體,不過比起此說法,Google 更強調軟硬整合的重要,從上述的案例中也看到 Pixel 並非全依靠AI 來實現相機,背後更多的著墨是在軟硬體設計上的優化。

Marc Levoy 說自己最喜歡在每天早上打開 instagram上看著用戶分享自己使用 Pixel 拍攝的照片,一張張專業級的影像作品,是透過一支單鏡頭手機完成的確是過去無法想像的,隨著相機的升級,大家不需要太昂貴的成本都能更容易拍出好照片,看完這麼多背後技術的解析是否讓你更有感覺了?

在會後,編輯也拿起了最新的Pixel 3a 與 3a XL 雖然在外殼不是玻璃而是聚碳酸酯,但是觸感上和Pixel 3 極為相似。

IMG_3445
IMG_1108
IMG_2964

延伸閱讀:


最新發展:


好想住桃園!市民最有感的「宜居智慧城市」發展秘辛大公開

城市該如何串聯企業、社會及公民組織,創造永續價值?依據關鍵議題研究中心發布的最新市調結果,帶大家一窺國門之都「桃園」,為了宜居智慧城市付出哪些努力。
評論
評論

桃園作為臺灣與世界接軌的第一站,面對永續未來的國際共識也採取了諸多措施,期盼能藉此逐步實踐「宜居智慧城市」的願景。

城市宜居的關鍵是什麼?過半民眾認為「交通運輸」政策影響最有感

這次問卷中,我們以「城市居住的理想藍圖」為題,詢問網路民眾最重視城市發展的哪些面向。結果發現,不分年齡性別,多數民眾對「宜居城市」都有相當類似的想像,最重視的三個方向分別是「大眾運輸與交通便利性」(52.9%)、「經濟發展與就業機會」(38.8%)及「社區安全與治安狀況」(33.7%)。

不論上班通勤、日常生活,還是旅遊觀光,「移動」都是行動的必須過程。一座城市是否宜居便利、能否永續發展,很大程度取決於整體運輸系統的設計規劃、市政措施完善與否。這次市調也發現類似的結果,像是談到近期桃市府讓民眾最有感的施政項目時,有將近四成的民眾選擇了「基北北桃通勤月票都會通」以及「鐵路地下化工程及捷運路網建設」等交通相關的政策。

另外,根據本次調查顯示,16-40歲的族群較為重視「教育資源的質量與分配」、「政府服務的效能」以及「文化節慶與娛樂活動的豐富程度」;41-60歲的桃園民眾則較為重視「醫療服務與設施品質」、「居住環境周邊設有公園綠地」以及「友善高齡者、身心障礙等群體的設施」;而詳加檢視近一年來桃市府所推出的政策或活動,許多也正好對應到前述的需求,例如「國中小營養午餐免費」、結合科技執法的「靜桃專案」、舊城區改造、參觀人次破千萬的「世界客家博覽會」、擴大肺癌篩檢、加速設立市立醫院及特色診所、興建7座旗艦型公園與推動「高齡友善換居社宅專案」等,是桃園民眾除交通類別以外的有感施政措施。

Photo Credit:TNL Research

而針對整體都市發展,今年由張善政市長召集成立的「未來城市空間發展會報」,也開始著手短、中、長期的舊城再生規劃,並布局城市大型公共建設,關注人行空間與城市關係的有序發展;搭配桃園現在進行式的鐵路地下化工程,進一步推動車站周邊產業轉型及土地活化,更將效法歐美成功先例,規劃興建長16公里的綠色廊道,打造回歸人本思維的城市空間,提供市民最宜居、舒適的生活藍圖。

傳產轉型、新創支持、文化深耕:城市發展的永續金三角!

不過,僅是安全完善的交通路網還不夠,城市的經濟發展也是攸關市民生活品質的重要指標之一。調查指出,約三成民眾認為「提供傳統產業轉型的資源」(31.7%)、「支持產業創新發展」(31.3%)、「鼓勵農業轉型與特色觀光發展」(27.8%)是城市發展中相當重要的產業元素。

Photo Credit:TNL Research

在青創產業的扶持上,桃市府近年設立了許多創育機構,例如專注孕育AI及智慧機器人等物聯網科技團隊的「新明青創基地」,及今年新成立、以整合電商平台資源為目標的「中路電商基地」。而未來更將成立「中路青創加速器基地」及「A8產業加速器」,分別催化能接軌國際的頂尖團隊,與協助傳產數位轉型。此外,桃市府也透過相關計畫提供創業辦公硬體、培訓資源,積極媒合青創團隊,並提供在地市場驗證機會,期待透過青創團隊產品規模化的過程,帶動整個桃園的產業升級。

Photo Credit:桃園市政府

桃園5家青創基地進駐團隊,分別獲得「2023巴黎國際發明展(Concours Lépine 2023)」一銀一銅、「亞洲XR創星金點大賞」評審團大獎、「2023台灣地域振興大賞」新秀獎、「2023日月光社會創新競賽」冠軍等殊榮。

此外,富有在地特色的人文觀光也是近年桃市府大力投入的領域,像是透過創新形式與傳統禮俗的融合「大溪大禧」,將關聖帝君聖誕遶境打造成跨越當代設計與民俗信仰的城市祭典;今年全新打造的觀光品牌「探索北橫」,推出數條能充分感受山水風光、體驗原民文化的主題遊程。不僅如此,桃市府也積極串聯周遭縣市的觀光資源,聯合推出整合了北北基桃共30處旅遊景點的旅遊套票,藉此導入更多的外部資源,促進桃園觀光產業的蓬勃發展。

Photo Credit:桃園市政府

秀麗的山水景緻與原民文化,是北橫旅遊的亮點,除致力打造觀光品牌,桃市府也全力向中央爭取設立「北橫國家風景區」,期盼挹注更多資源,帶動觀光發展。

二度奪下永續城市特優獎!持續邁向更宜居、更智慧的桃園

針對「永續經營」相關作為的重要性認知,絕大多數民眾認為「大眾運輸路網的長遠規劃與建置」(40.3%)是落實永續的關鍵。桃園作為全台第一個符合聯合國推動「奔向淨零」(Race to Zero)倡議的城市,於今年3月29日率先發表桃園邁向2050淨零碳排路徑圖,除規劃空氣品質淨化區、打造全齡友善的共融式公園綠地、協助企業產業轉型,更積極建置及完善市內捷運路網,全方位實踐淨零的永續目標;其中,桃捷綠線中壢延伸線綜合規劃,交通部同意捷運綠線從G01站延伸至中壢車站(桃捷A23),連結捷運綠線與機場捷運,形成桃園首條環狀捷運路網,而捷運三鶯延伸八德、棕線計畫,均已針對交通部審查意見提出修正,期盼今年底可獲行政院核定。

Photo Credit:TNL Research

此外,桃園更再度榮獲今周刊「2023永續城市SDGs大調查」的「永續城市特優獎」及「經濟力特別傑出獎」,展現桃園無論民間企業抑或政府機關,都將永續發展視為重要目標。而明年更將整合研究發展考核委員會及資訊科技局設立「智慧城鄉發展委員會」,期盼藉由組織整改消弭隔閡,讓各單位的目標、任務都更加明確並發揮效益,並優化各項公共服務,為市民打造更為舒適的生活環境,使「智慧桃園」的目標更上層樓。

Photo Credit:桃園市政府

桃園致力於經濟發展與環境永續的平衡,為邁向2050淨零碳排的願景,扎下穩健根基。

桃市府在都市景觀、城市機能、產業精進及施政效能等面向的耕耘,短期成效不僅為民眾所有目共睹,長期觀之,更是為桃園往後的蓬勃發展打下關鍵基礎,使宜居智慧城市的願景正實現。

【桃園市政府廣告】