function filter($item) 
{
    return count($item) == 3 ? $item : false;
}

$newArr = array_filter(array_merge($arr, $arr2), 'filter');

题主实在不好意思，上面这个回答我弄错了 array_merge 的用法，现在重写一个，已本机测试:

$tempArr = array();
foreach($arr2 as $item) 
    $tempArr[$item['id']] = $item['shop_name'];

foreach($arr as $k => $v) {
    if(array_key_exists($v['id'], $tempArr)) { 
        $arr[$k]['shop_name'] = $tempArr[$v['id']];
    } else {
        $arr[$k]['shop_name'] = '';
    }
}
$newArr = $arr;

btw，我以前也喜欢写嵌套循环，因为逻辑比较简单，但是自从 @公子 指正后，我已经开始尽量避免这种效率极低的写法，希望答案能帮到题主！:)

我写了个时间复杂度O(n) 比你的时间短
空间复杂度则要多一点

<?php
$arr = array(
    array(
    'id' => 1,
    'user_name'=>'test1'
    ),
    array(
    'id' => 2,
    'user_name'=>'test2'
    ),
    array(
    'id' => 3,
    'user_name'=>'test3'
    )
);
$arr2 = array(
     array(
    'id' => 1,
    'shop_name'=>'shop1'
    ),
    array(
    'id' => 5,
    'shop_name'=>'shop2'
    ),
    array(
    'id' => 3,
    'shop_name'=>'shop3'
    )
);

$tmp = '';
foreach ($arr2 as $k) { $tmp[$k['id']] = $k; }
foreach ($arr as &$v) {
    $sn = $tmp[$v['id']]['shop_name'];
    $sn = $sn ? $sn :'';
    $v['shop_name'] = $sn;
}

var_dump($arr);

?>

PHP5.5支持一个很棒的函数array_column()非常适合干这个事情，具体请参考手册:http://cn2.php.net/manual/zh/function.array-column.php。

$shop_name = array_column($arr2, 'shop_name', 'id');
foreach($arr as $key => $item) {
    $exist = array_key_exists($item['id'], $shop_name);
    $arr[$key]['shop_name'] = $exist ? $shop_name[$item['id']] : '';
}
print_r($arr);

以上代码没有经过测试（因为我本地也没5.5版本的PHP），写法上可能也略丑，但是主要是想介绍一下array_column()这个函数。

如果是用循环做的话，你那样写也是没有问题的，但是我依旧是“能不用嵌套循环就坚决不用嵌套循环”的想法。

$shop_name = array();
foreach($arr2 as $item) $shop_name[$item['id']] = $item['shop_name'];

foreach($arr as $key => $item) {
    $exist = array_key_exists($item['id'], $shop_name);
    $arr[$key]['shop_name'] = $exist ? $shop_name[$item['id']] : '';
}

print_r($arr);

题外问一句吧，题主你怎么总是在问这种PHP的数组操作问题啊，这种东西查查文档仔细想想就能出来的东西实在是有点....我就不多说什么了。

封装一个函数：

<?php

$arr1 = array('A','B','C');
$arr2 = array('D','E','F');

function array_group($arr1,$arr2) {
    $arr3 = array();
    foreach($arr2 as $k => $v) {
        $item = array($arr1[$k],$v);
        array_push($arr3,$item);
    }
    return $arr3;
}

var_dump(array_group($arr1,$arr2));

output:

array(3) {
  [0]=>
  array(2) {
    [0]=>
    string(1) "A"
    [1]=>
    string(1) "D"
  }
  [1]=>
  array(2) {
    [0]=>
    string(1) "B"
    [1]=>
    string(1) "E"
  }
  [2]=>
  array(2) {
    [0]=>
    string(1) "C"
    [1]=>
    string(1) "F"
  }
}