Apache Pig Cogroup运算符

由 jarodhu 创建，youj 最后一次修改 2016-12-28 COGROUP 运算符的运作方式与 GROUP 运算符相同。两个运算符之间的唯一区别是 group 运算符通常用于一个关系，而 cogroup 运算符用于涉及两个或多个关系的语句。使用Cogroup分组两个关系假设在HDFS目录 /pig_data/ 中有两个文件，即 student_details.txt 和 employee_details.txt ，如下所示。 student_details.txt 001,Rajiv,Reddy,21,9848022337,Hyderabad002,siddarth,Battacharya,22,9848022338,Kolkata003,Rajesh,Khanna,22,9848022339,Delhi004,Preethi,Agarwal,21,9848022330,Pune005,Trupthi,Mohanthy,23,9848022336,Bhuwaneshwar006,Archana,Mishra,23,9848022335,Chennai007,Komal,Nayak,24,9848022334,trivendram008,Bharathi,Nambiayar,24,9848022333,Chennai employee_details.txt 001,Robin,22,newyork 002,BOB,23,Kolkata 003,Maya,23,Tokyo 004,Sara,25,London 005,David,23,Bhuwaneshwar 006,Maggy,22,Chennai将这些文件分别加载到Pig中，关系名称分别为 student_details 和 employee_details ，如下所示。grunt> student_details = LOAD 'hdfs://localhost:9000/pig_data/student_details.txt' USING PigStorage(',') as (id:int, firstname:chararray, lastname:chararray, age:int, phone:chararray, city:chararray); grunt> employee_details = LOAD 'hdfs://localhost:9000/pig_data/employee_details.txt' USING PigStorage(',') as (id:int, name:chararray, age:int, city:chararray);现在，将 student_details 和 employee_details 关系的记录/元组按关键字age进行分组，如下所示。grunt> cogroup_data = COGROUP student_details by age, employee_details by age;验证使用 DUMP 运算符验证关系 cogroup_data ，如下所示。grunt> Dump cogroup_data;输出它将产生以下输出，显示名为 cogroup_data 的关系的内容，如下所示。(21,{(4,Preethi,Agarwal,21,9848022330,Pune), (1,Rajiv,Reddy,21,9848022337,Hyderabad)}, { }) (22,{ (3,Rajesh,Khanna,22,9848022339,Delhi), (2,siddarth,Battacharya,22,9848022338,Kolkata) }, { (6,Maggy,22,Chennai),(1,Robin,22,newyork) }) (23,{(6,Archana,Mishra,23,9848022335,Chennai),(5,Trupthi,Mohanthy,23,9848022336 ,Bhuwaneshwar)}, {(5,David,23,Bhuwaneshwar),(3,Maya,23,Tokyo),(2,BOB,23,Kolkata)}) (24,{(8,Bharathi,Nambiayar,24,9848022333,Chennai),(7,Komal,Nayak,24,9848022334, trivendram)}, { }) (25,{ }, {(4,Sara,25,London)}) cogroup 运算符根据年龄对来自每个关系的元组进行分组，其中每个组描述特定的年龄值。例如，如果我们考虑结果的第一个元组，它按照年龄21分组，那它包含两个包第一个包保存了具有21岁的第一关系（在这种情况下是 student_details ）的所有元组；第二个包具有第二关系（在这种情况下为 employee_details ）的所有元组，其年龄为21岁。如果关系不具有年龄值为21的元组，则返回一个空包。