As you might have already seen, we recently announced the beta availability of our latest product, Hunk: Splunk Analytics for Hadoop.
Via Wonil Lee Ph.D.
Get Started for FREE
Sign up with Facebook Sign up with Twitter
I don't have a Facebook or a Twitter account
![]() ![]()
![]()
Joon Hyung Kim's comment,
May 27, 2013 8:57 AM
[기사요약]
세계적으로 수십억 달러 규모의 인신매매 시장이 형성되어 있음. 최첨단 기술과 장비로 인신매매를 진행하고 있음. 구글과 세일즈포스닷컴 등은 빅데이터를 활용하여 불법 인신매매를 근절하기 위한 프로젝트를 펼침. 인신매매단은 소셜 미디어를 통해 피해자들을 찾고, GPS가 탑재된 휴대기기로 피해 여성을 통제함. 또한 포르노 사이트에서 강제적으로 활동하게 하기도 함. 구글은 이에 대한 해결책으로 '핫라인'을 내놓음. 현재의 휴대전화, 온라인 리포팅, 이메일, SMS 등 다양한 경로로 핫라인을 통해 제보가 이루어지게 함. 그러나 지역에 따라 수집되는 정보는 고립되어지고 포맷이 달라 활용하기 힘듬. 인터넷을 통한 핫라인은 빅데이터 분석을 통해 이러한 제약을 극복할 수 있음. 데이터베이스 인프라를 표준화하고, 데이터를 분석하기 위한 소프트웨어 엔지니어들이 필요함. 핫라인이 모으는 데이터는 즉각적 반응과 패턴인식의 두가지 특징을 지님. 즉각적 반응은 인신매매 피해자나 강제노역자가 핫라인에 전화를 걸거나 메시지를 남길 때 일어남. 콜센터 오퍼레이터는 Java나 Html5로 구현된 웹앱이 띄워주는 피해자의 발신 지역의 지도를 보며 근방에 파트너쉽이나 NGO들이 활동하는지 알아보며, 가장 적합한 장소를 찾고 서로간의 연결을 쉽게 해준다. 그런 뒤 에디터는 자동으로 핫라인 오퍼레이터에 들어간다. 피해자가 주변의 주유소를 언급하면 연관성이 있는 데이터들이 표시된다. 이런 식으로 2분 내외로 피해자의 위치추정이 가능해진다. 수집되는 정보는 모두 자동으로 쌓이고 분석되어져 다음 검색에 활용된다. 그러나 데이터 공유는 여전히 큰 장애임. 개인을 특정할 수 있는 정보는 더욱 공유하기 어려움. 국가간의 정보도 공유하기 힘듬. [나의 생각] 이 기사는 빅데이터의 활용도에 평소에 의문을 가지고 있던 나에게 어느정도 방향성을 제시한 것 같음. 빅데이터를 단지 상업용으로 어떻게 하면 돈을 벌 것인가가 아니라, 인류에 도움이 되는 방향으로 이용하는 것을 생각하게 함. 이렇게 따지면 빅데이터의 활용 범위는 확 커지는 느낌임. 단순히 이익을 쫓기 위해 기술을 이용하는 것이 아니라 모두에게 혜택이 되는 목적을 가지기 때문에 더 즐거운 마음으로 더 다양한 활용처를 찾을 수 있음. 우리 회사도 돈이 되는 사업을 찾는 것도 중요하지만 이렇게 모두 또는 정말 필요로 하는 사람들을 도울 수 있은 방향으로 빅데이터의 구현에 접근하면 어떨까 함. 그리고 마지막의 장애물로서 정보의 공유를 들었는데, 충분히 의미있는 데이터는 세계각국 또는 각 지역의 법률을 지켜가며 수집되어야 함. 이러한 점에 충분히 주의한다면 글로벌 빅데이터 서비스를 제공하는데 도움이 될 것임. |
Daejun Son's comment,
June 21, 2013 1:14 AM
가상화된 장비를 사용 할 경우 Big data 처리나 Hadoop를 이용할 경우 baremetal 보다 느리다는 것이 보통적인 견해임.
자사의 Project인 HVE(Hadoop Virtualization Extension) 과 세렝게티를 이용할 경우 특정한 경우 Baremetal 보다 성능이 잘 나옴. 하나의 장비에서 연산관련 부분과 스토리지 부분을 분리하여 각각의 VM으로 만들어서 처리 함. VM 이 적을 경우 속도가 Baremetal 보다 늦지만 VM이 많아 질 경우 속도가 빨라짐. 세렝게티(SERENGETI) - VMware에서 설립한 오픈소스 프로젝트로 가상화 기반에서 Hadoop을 신속하게 배포관리 하기 위한 프로젝트 임.
![]()
Joon Hyung Kim's comment,
May 28, 2013 7:55 AM
[기사요약]
Mailbox라는 앱이 드롭박스에 1억달러에 팔렸음. 메일박스는 직관적이고 다루기 쉬운 메일관리툴로 인기를 끌었음. 앱이 인기가 있어지자 회사는 커지는데 커가는 회사를 제대로 관리하기 위해 과감히 드롭박스에 회사를 매각함. 문화가 맞지 않는 두 회사가 만나면 실패한 사례가 많음. 그 부분을 걱정함. 구글 등의 메일제공 회사가 메일에 접근을 어렵게 할 수 있다는 걱정이 드는지에 대해, 그다지 걱정하지 않는다고 함. [나의 의견] 미국의 실리콘벨리는 이런 대박 터뜨리는 벤쳐기업이 많음. 창업자가 자신의 한계를 알고 회사를 성장시키기 위해 더 잘하는 기업에 매각하는 사례도 많음. 대박을 터뜨리려면 미국에서 창업해야하나? |